Deepseek API Chat:基于 OpenAI Responses API 和 Deepseek 缓存机制的 Chat 客户端

· · 科技·工程

之前尝试拿 Cherry Studio 接 Deepseek API 和它聊天,结果吃了坨大的。缓存全部 miss 掉,消费起飞,未缓存输入与缓存输入比例直接拉到了 1:1。

于是拿 Reasonix 搓了一个利用 Deepseek 前缀缓存机制和最新支持的 OpenAI Responses API 实现的 Deepseek API chat 客户端。我知道有 Chatbox 这个东西,但是感觉它没有为 Deepseek 专门优化,因此没有用它。

第一句 prompt 长这样:

接下来,你需要在该目录下仿照 Deepseek 网页端对话界面,制作一个使用 Deepseek API 进行对话的网页应用。该应用需要具备以下功能:

  1. 界面整体设计与 Deepseek 网页端类似。
  2. 允许用户选择 Flash 或 Pro 模型。
  3. 需要包含设置界面,让用户给出 API Key。
  4. 使用 OpenAI Responses API 进行实现,具体细节可参照这里。
  5. 允许用户开启/关闭深度思考/联网搜索功能。在联网搜索功能开启时,需要利用 Responses API 所支持的服务器端 web_search 功能。
  6. 充分利用 Deepseek 的上下文前缀缓存机制。
  7. 不重复造轮子,对于任何实现细节,若网上已有成熟的实现版本,可以直接借用。

考虑到该项目较为复杂,先不要进行任何实现。首先创建 docs 文件夹,并在内部编写足够详细的 Markdown 实现文档,以便实现时直接参考。文档应当根据每个模块的功能继续细分文件夹进行编写。

直接访问 https://shine-yu-student.github.io/api_chat/ 即可体验。只需要在设置中填入自己的 API Key 并给 Deepseek 开放平台氪金即可开始使用。

项目位于这里。特性大概有以下几点:

也算是出了口气,用 API 聊天而不是叫 Agent 写代码时不用再天天 cache miss 了。