Deepseek API Chat:基于 OpenAI Responses API 和 Deepseek 缓存机制的 Chat 客户端
Redshift_Shine · · 科技·工程
之前尝试拿 Cherry Studio 接 Deepseek API 和它聊天,结果吃了坨大的。缓存全部 miss 掉,消费起飞,未缓存输入与缓存输入比例直接拉到了 1:1。
于是拿 Reasonix 搓了一个利用 Deepseek 前缀缓存机制和最新支持的 OpenAI Responses API 实现的 Deepseek API chat 客户端。我知道有 Chatbox 这个东西,但是感觉它没有为 Deepseek 专门优化,因此没有用它。
第一句 prompt 长这样:
接下来,你需要在该目录下仿照 Deepseek 网页端对话界面,制作一个使用 Deepseek API 进行对话的网页应用。该应用需要具备以下功能:
- 界面整体设计与 Deepseek 网页端类似。
- 允许用户选择 Flash 或 Pro 模型。
- 需要包含设置界面,让用户给出 API Key。
- 使用 OpenAI Responses API 进行实现,具体细节可参照这里。
- 允许用户开启/关闭深度思考/联网搜索功能。在联网搜索功能开启时,需要利用 Responses API 所支持的服务器端 web_search 功能。
- 充分利用 Deepseek 的上下文前缀缓存机制。
- 不重复造轮子,对于任何实现细节,若网上已有成熟的实现版本,可以直接借用。
考虑到该项目较为复杂,先不要进行任何实现。首先创建 docs 文件夹,并在内部编写足够详细的 Markdown 实现文档,以便实现时直接参考。文档应当根据每个模块的功能继续细分文件夹进行编写。
直接访问 https://shine-yu-student.github.io/api_chat/ 即可体验。只需要在设置中填入自己的 API Key 并给 Deepseek 开放平台氪金即可开始使用。
项目位于这里。特性大概有以下几点:
- 采用最新最热的 OpenAI Responses API 支持。
- 直接调用服务器端的网络搜索功能。
- 充分利用 Deepseek 前缀缓存机制。
- System Prompt 管理器,允许用户自行编写并存储多个 System Prompt,并在对话开始时自由选定。
也算是出了口气,用 API 聊天而不是叫 Agent 写代码时不用再天天 cache miss 了。