PassNAT LogoPassNAT

本地部署SillyTavern AI聊天前端工具,帕斯内网穿透实现公网远程访问LLM大语言模型接口

作者

小编

发布时间

Curving abstract shapes with an orange and blue gradient

项目介绍

SillyTavern 是一个功能强大的本地安装用户界面,专为 AI 爱好者设计的 LLM 前端工具。它提供了一个统一的接口来访问多种大语言模型 API(包括 KoboldAI/CPP、Horde、NovelAI、Ooba、Tabby、OpenAI、OpenRouter、Claude、Mistral 等),支持移动端友好布局、视觉小说模式、Automatic1111 和 ComfyUI API 图像生成集成、TTS 语音合成、WorldInfo(知识库)、可自定义 UI、自动翻译等功能。

作为 TavernAI 1.2.8 的分支项目,SillyTavern 自 2023 年 2 月开始独立开发,现已拥有超过 200 名贡献者和 2 年的独立开发历程,是 AI 爱好者的领先软件。项目完全免费开源,不提供任何在线托管服务,也不会收集用户数据,硬件要求极低,只需能运行 NodeJS 18 或更高版本即可。

项目地址:点我跳转

部署安装

如需在外也打开项目需要配置内网穿透使用,点击前往 帕斯内网穿透,先注册好账号备用。

复制下列的配置文件

1services:
2 sillytavern:
3 container_name: sillytavern
4 hostname: sillytavern
5 image: ghcr.io/sillytavern/sillytavern:latest
6 environment:
7 - NODE_ENV=production
8 - FORCE_COLOR=1
9 ports:
10 - '8000:8000'
11 volumes:
12 - './config:/home/node/app/config'
13 - './data:/home/node/app/data'
14 - './plugins:/home/node/app/plugins'
15 - './extensions:/home/node/app/public/scripts/extensions/third-party'
16 restart: unless-stopped

打开飞牛 NAS 或其他的 NAS 设备

项目名称可以随便填,点击创建 docker-compose.yml

点击 Compose -> 新建项目

如果提示端口被占用可以修改下面的字段,但是需要保持格式正确。端口映射中的 '8000:8000' 前面的数字可以修改为其他端口,后面的 8000 保持不变。

创建成功后可以访问 ip:8000 到这里就可以正常显示项目了

穿透公网

打开帕斯内网穿透控制台,点击隧道管理-隧道列表

点击创建新隧道

隧道节点可以随便选,一般选个负载低的就可以

接下来填写信息,隧道名称可以随便填写

本地 IP 默认就可以

传输协议可以选择 TCP 也可以选择 HTTP/HTTPS

HTTP 就是域名的形式,教程以使用 TCP 为演示

本项目中如果没有修改端口的话默认是 8000 端口,这里本地 IP 就填 8000

远程端口可以留空也可以自定义。下图仅做参考,请按照实际项目端口添加。

填写完毕点击确定

点击刚才创建好的隧道,点击获取配置文件

回到飞牛 NAS,点击应用中心下载 frpc 客户端

打开后粘贴刚才复制的配置文件,点击确定即可

复制帕斯内网穿透控制台的访问 IP 和端口

可以看到已经正常穿透成功了

本篇教程结束