dsh-cliproxyapi-provider
Verified@gray0128/dsh-cliproxyapi-provider · v0.0.6 · MIT · Web UI
GUI-configurable CLIProxyAPI Responses provider for DeepSeek Harness
Install
dsh plugin add @gray0128/dsh-cliproxyapi-provider Confirm the layer applied with dsh --profile default --dump-config — see the install guide.
Source
Creators
Readme
CLIProxyAPI Provider for DeepSeek Harness
English | 简体中文
本仓库派生自 router-for-me/dsh-cliproxyapi-provider,并在其基础上迁移到 DeepSeek Harness 0.2.1-rc.3 的宿主 API。
为 DeepSeek Harness 添加一个基于 OpenAI Responses API 的 CLIProxyAPI 模型供应商。插件自动从 CLIProxyAPI 拉取模型目录,无需手动维护模型列表。
环境要求
- DeepSeek Harness
0.2.1-rc.3及以上、0.2.2之前 - Node.js 22 及以上
安装
npx @deepseek-ai/dsh plugin --profile web add @gray0128/dsh-cliproxyapi-provider
安装后启动或重启 DeepSeek Harness Web:
npx @deepseek-ai/dsh web
使用
打开 Harness 后:
- 进入 设置 → 插件 → CLIProxyAPI。
- 填写 Base URL,例如
http://127.0.0.1:8317/v1。 - 填写 API Key;无鉴权服务可以留空。
- 点击 保存并启用,模型列表会自动获取并定期刷新。
保存后,插件把模型写入内置 llm-pi-ai 供应商配置的 CLIProxyAPI 条目,模型会直接出现在选择器中。
工作方式
- 模型发现:并行请求
GET {baseURL}/models?client_version=dsh-cliproxyapi-provider(Codex 风格models数组)与GET {baseURL}/models(标准 OpenAI 风格data数组),按模型 ID 合并两边的容量、输入模态和思考档位(同时解析supported_reasoning_levels与thinking.levels/zero_allowed,同名标准档位max优先于ultra);任一端点失败、超时或过滤后为空时自动降级到另一端点。缺少的字段回落到插件配置的默认值,且未显式覆盖maxTokens时自动约束maxTokens <= contextWindow。 - 多源元数据校准:
500K/872K占位上下文、等于上下文(或 90%)的maxTokens、5/6 档 Codex 推理模板、空档位以及目录缺失的字段都会触发校准。插件按metadataSources优先级从宿主内置@earendil-works/pi-ai模型库、OpenRouter Models API 与 LiteLLM 模型参数库补齐参数,并用 canonical slug、Hugging Face ID、去日期尾段和边界模糊匹配对齐代理路由 ID。代理显式声明的非占位值始终优先,用户覆盖最高;无法被元数据证实的档位模板会被清空而不是继续下发,占位maxTokens无匹配时回落到默认输出上限。远程数据源带内存缓存、超时控制和旧缓存兜底;任一来源不可用或字段结构变化时自动降级,不阻塞模型发现。 - 单一目录所有者:插件不注册自己的供应商目录,只维护
llm-pi-ai里的CLIProxyAPI配置,路由和请求由内置pi-ai适配器负责。 - 凭据:API Key 保存为 DSH 凭据
DSH_CLIPROXY_API_KEY,不写入配置文件。无密钥时写入一个占位Authorization头,保证请求仍能发出。 - 刷新:默认每 5 分钟刷新一次目录;失败时按 3 秒起步的指数退避重试,上限 60 秒,同一错误只记一条警告。
配置项
默认值适用于大多数部署。需要调整时,在 profile 的 cordis.patch.yml 中按 id llm-cliproxyapi 设置 config;补丁会整体替换该条目的配置,因此要写出全部需要的字段。
| 配置项 | 默认值 | 说明 |
|---|---|---|
defaultContextWindow |
262144 |
目录未提供上下文窗口时使用的值 |
defaultMaxTokens |
32768 |
目录未提供最大输出时使用的值(未显式覆盖时不超过 contextWindow) |
defaultInput |
["text"] |
目录未提供输入模态时使用的值,可含 image |
excludedModels |
[] |
按模型 ID 隐藏模型,支持 * 通配符,例如 ["*-preview"] |
modelOverrides |
{} |
按模型 ID 覆盖 name、contextWindow、maxTokens、input 与 reasoningEfforts;reasoningEfforts: false 表示非推理模型 |
metadataSources |
["pi-ai", "openrouter", "litellm"] |
元数据校准数据源及优先级顺序;设为 [] 关闭自动校准 |
openRouterModelsURL |
"https://openrouter.ai/api/v1/models" |
OpenRouter 模型元数据接口地址 |
liteLlmModelsURL |
"https://raw.githubusercontent.com/BerriAI/litellm/main/model_prices_and_context_window.json" |
LiteLLM 模型参数库 JSON 地址 |
metadataTimeoutMs |
8000 |
远程元数据请求超时(毫秒) |
metadataCacheTtlMs |
3600000 |
远程元数据内存缓存有效期(毫秒),设为 0 每次重新拉取 |
headers |
{} |
请求目录和模型时附加的自定义请求头 |
fetchTimeoutMs |
15000 |
单次目录请求超时(毫秒) |
retryInitialMs |
3000 |
首次重试延迟(毫秒) |
retryMaxMs |
60000 |
重试延迟上限(毫秒) |
refreshIntervalMs |
300000 |
目录刷新间隔(毫秒),设为 0 关闭定期刷新 |
卸载
npx @deepseek-ai/dsh plugin --profile web remove @gray0128/dsh-cliproxyapi-provider
卸载后重启 DeepSeek Harness Web 即可。
故障排查
- 提示「与 DSH 不兼容」:插件版本与当前 DSH 不匹配。请升级插件,不要用
dsh plugin allow-version豁免——本插件依赖 0.2.1-rc.3 的宿主 API,绕过检查后仍会在加载时失败。 - 返回 401 或 403:在设置中保存有效的 API 密钥。
- 保存后模型列表为空:确认 CLIProxyAPI 的
/models返回 Codex 风格的models数组或标准 OpenAI 风格的data数组,且至少包含一个未被excludedModels过滤的可用模型。
许可
MIT,详见 package.json。