本地部署SillyTavern AI聊天前端工具,帕斯内网穿透实现公网远程访问LLM大语言模型接口
作者
小编
发布时间

项目介绍
SillyTavern 是一个功能强大的本地安装用户界面,专为 AI 爱好者设计的 LLM 前端工具。它提供了一个统一的接口来访问多种大语言模型 API(包括 KoboldAI/CPP、Horde、NovelAI、Ooba、Tabby、OpenAI、OpenRouter、Claude、Mistral 等),支持移动端友好布局、视觉小说模式、Automatic1111 和 ComfyUI API 图像生成集成、TTS 语音合成、WorldInfo(知识库)、可自定义 UI、自动翻译等功能。
作为 TavernAI 1.2.8 的分支项目,SillyTavern 自 2023 年 2 月开始独立开发,现已拥有超过 200 名贡献者和 2 年的独立开发历程,是 AI 爱好者的领先软件。项目完全免费开源,不提供任何在线托管服务,也不会收集用户数据,硬件要求极低,只需能运行 NodeJS 18 或更高版本即可。
项目地址:点我跳转
部署安装
如需在外也打开项目需要配置内网穿透使用,点击前往 帕斯内网穿透,先注册好账号备用。
复制下列的配置文件
1services:2 sillytavern:3 container_name: sillytavern4 hostname: sillytavern5 image: ghcr.io/sillytavern/sillytavern:latest6 environment:7 - NODE_ENV=production8 - FORCE_COLOR=19 ports:10 - '8000:8000'11 volumes:12 - './config:/home/node/app/config'13 - './data:/home/node/app/data'14 - './plugins:/home/node/app/plugins'15 - './extensions:/home/node/app/public/scripts/extensions/third-party'16 restart: unless-stopped
打开飞牛 NAS 或其他的 NAS 设备

项目名称可以随便填,点击创建 docker-compose.yml

点击 Compose -> 新建项目
如果提示端口被占用可以修改下面的字段,但是需要保持格式正确。端口映射中的 '8000:8000' 前面的数字可以修改为其他端口,后面的 8000 保持不变。
创建成功后可以访问 ip:8000 到这里就可以正常显示项目了
穿透公网
打开帕斯内网穿透控制台,点击隧道管理-隧道列表

点击创建新隧道
隧道节点可以随便选,一般选个负载低的就可以

接下来填写信息,隧道名称可以随便填写
本地 IP 默认就可以
传输协议可以选择 TCP 也可以选择 HTTP/HTTPS
HTTP 就是域名的形式,教程以使用 TCP 为演示
本项目中如果没有修改端口的话默认是 8000 端口,这里本地 IP 就填 8000
远程端口可以留空也可以自定义。下图仅做参考,请按照实际项目端口添加。

填写完毕点击确定
点击刚才创建好的隧道,点击获取配置文件

回到飞牛 NAS,点击应用中心下载 frpc 客户端

打开后粘贴刚才复制的配置文件,点击确定即可
复制帕斯内网穿透控制台的访问 IP 和端口
可以看到已经正常穿透成功了
本篇教程结束