我看你也是压抑了——ST 酒馆入门

· · 科技·工程

管理大大隔开的中文是一个个名词,合一起难理解喵,求过喵。

前情提要

众所周知,在 OIer 中有着许多猫娘,但是他们一般不愿意与我们进行深入 ♂ 交流。那么,有没有一种便捷的方法能最快克隆一个数字人甚至是一个世界观呢?

有的,兄弟有的,下面将带来 SillyTavern(ST/酒馆)的介绍。

功能

SillyTavern(后文简称 ST 或酒馆)可以理解为一个高度自定义的 AI 聊天前端界面。它类似你的微信,可以创建或导入多个角色,每个人都有不同的设定,再配套一个世界观,你就可以和 Ta 生成专属的对话与故事。

它本质上是一个 LLM(大语言模型)的前端,为你提供了一个比官网更强大、更自由的交互平台,让你能更精细地控制 AI 的行为,可以说是你无需费力配置的 LLM 朋友们。

其实说是互动类 Galgame 的管理器可能更贴切。

核心要求

第一步:获取 API

你需要一个大模型 API 才能让酒馆“开口说话”。这里以 Google 的 Gemini 为例。

::::info[方法一:Cli 反代(免费好用)]{open}

::::info[方法二:官方 Gemini API(简单,但或许需要付费]

  1. 打开 谷歌云控制台 (Google Cloud Console)。
  2. 在页面顶部的项目选择器中,点击“新建项目”,创建一个新项目并选中它。
  3. 在左侧导航栏中找到并点击 API 与服务
  4. API 与服务 页面中,再次点击左侧的 凭证
  5. 在凭证页面,点击 创建凭证 并选择 API 密钥。系统会为你生成一串字符,这就是你的 API 密钥。 ::::

::::info[方法三:通过 AIstudioProxyAPI(较繁琐,但可免费使用)]

此方法通过一个本地代理程序来间接调用 Gemini,适合动手能力强的用户。

  1. 访问项目:首先,请前往 GitHub 项目页面:AIstudioProxyAPI。请务必优先仔细阅读官方的说明文档! 如果在阅读后仍有困难,再参考以下简化步骤。
  2. 安装依赖::确保你已经安装了 Miniforge(conda)。官方推荐使用 Poetry 进行依赖管理,你可以通过 conda install poetry 来安装它,还有自行安装 Camoufox。
  3. 克隆项目:将项目克隆到你的本地电脑(不会的见下文 ST 安装处)。
  4. 创建环境 (可选,但推荐): 为了不污染你的主环境,建议使用 conda 创建一个独立的虚拟环境。
    # 创建一个名为 st_proxy 的 python 3.11 环境
    conda create -n st_proxy python=3.11
    # 激活环境 (每次运行前都需要激活)
    conda activate st_proxy
  5. 配置: 按照项目说明,复制 .env.example 文件为 .env。用文本编辑器打开新的 .env 文件,如果你开启的是全局魔法(Turn 模式),请务必把代理的那两行 (HTTP_PROXYHTTPS_PROXY) 删掉或在行首加 # 注释掉。如果你的魔法需要手动指定端口,请将这两行等号后面的内容改成你的本地代理地址(如 http://127.0.0.1:7890)。
  6. 启动: 运行 python gui_launcher.py 来启动图形化界面。点击 有头模式 (Headful Mode),程序会自动打开一个浏览器窗口(它自己的浏览器)让你登录 Google 账号。登录成功后,这个代理就在你的本地运行起来了!
  7. 记下它提供的端口号(http://127.0.0.1:2048/)并在浏览器中打开,设置密钥,一个字母就可以了

注:这个方法提供的是兼容 Open AI 的 api,意味着你无法使用 google 原生的 role,但其实影响不大。 ::::

第二步:安装 ST(酒馆本体)

  1. 在你电脑里找一个风水宝地(注意:路径中不要有中文或空格!)。
  2. 在选好的文件夹地址栏里敲入 cmd 并回车,打开终端。
  3. 输入以下命令,并等待下载完成(如果速度慢,可使用 Steam++ 等工具进行 GitHub 加速):
    git clone https://github.com/SillyTavern/SillyTavern -b release
  4. 下载好以后,双击文件夹里的 Start.bat。首次启动会自动安装依赖,请耐心等待。完成后,它会自动在你的默认浏览器中打开一个网页(地址是 http://127.0.0.1:8000)。

第三步:配置 ST

进入酒馆页面后,注意到顶端有一排图标,点击那个插头形状的图标,进入 API 配置界面。

点击带加号的文件图标来新建一个 API 配置,给它起个你喜欢的名字,然后保存。

::::info[情况一:Cli 反代]{open}

::::info[情况二:使用官方 Gemini API]

::::info[情况三:使用 AIstudioProxyAPI]

记得勾选 显示外部模型,然后点击旁边的刷新按钮来加载模型列表。

::::

第四步:预设 (Presets) 与角色卡 (Character Cards)

这是 ST 最精髓的部分,决定了 AI 的“灵魂”。

  1. 加入社区: 强烈建议加入 SillyTavern 官方 Discord 或中文社区 类脑 ΟΔΥΣΣΕΙΑ。你需要通过答题等方式进行验证,网络要好。
  2. 寻找资源: 在社区中,通常有专门的频道分享预设、角色卡和正则。找到 预设presets 相关的频道,挑选你喜欢的(注意要找适配 Gemini 模型的)。下载它的 .json 文件 和配套的 正则表达式 (Regex)
  3. 推荐预设与正则:
    • 本来有的,现在自己找吧,社区环境比以前丰富太多了,我也不知道推荐哪个。
  4. 导入 ST:
    • 导入预设: 回到 ST 页面,点击顶栏最左边的按钮(回应配置),选择“导入”,上传你下载的预设 .json 文件。请关闭“流式传输”以获得最佳体验
    • 导入正则: 点击顶栏中间的三个小方块图标,展开“正则表达式”选项,把你下载的正则文本一条一条全部复制粘贴进去。
    • 导入角色卡: 点击顶栏最右边的角色管理图标,同样选择导入,上传你下载的角色卡(通常是 .png.json 文件)。

模型自己选择,如果你选择了方法三,可选择的模型只有网站上提供的模型(没有 preview 系列),对于方法一与二,建议flash-0502-preview,这个模型遵守规则能力很强。

现在,选择一个角色,开始你的聊天!

Q & A

如果遇到报错,优先复制错误信息丢给 AI(如 ChatGPT、Gemini)分析。以下是一些常见问题:

新账号目前似乎还能免费使用 api?

ST 插件与美化

酒馆的强大之处在于其扩展性。你可以在社区中找到各种插件和美化教程。

祝你玩得开心!