Chuyển đến nội dung chính

dsh-llm-config

Đã xác minh

@lovstudio/dsh-llm-config · v0.1.0 · MIT

Reusable LLM configuration profile library exposed to browser consumers as a Remote

Cài đặt

dsh plugin add @lovstudio/dsh-llm-config

Xác nhận layer đã áp bằng dsh --profile default --dump-config — xem hướng dẫn cài plugin.

Mã nguồn

Thẻ

Readme

@lovstudio/dsh-llm-config

English | 中文

Host 侧的可复用 LLM profile 库。它拥有 llm-config settings namespace,并通过生成的 Typert Remote contribution 暴露 llmConfig.runCompletion。每个 profile 选择 provider、model 与 system prompt;消费者按稳定 id 使用 profile,无需直接依赖 Host LLM 服务。

该包刻意只属于 Host。浏览器编辑器位于下游 Client 包,例如 @lovstudio/dsh-llm-config-ui;@deepseek-ai/dsh-api-remotes 导入生成的 Remote contribution,并把其运行时 codec 依赖打入浏览器 bundle。

模型体验

Profile 补全请求

模型看到的内容

模型会先看到所选 profile 的准确 systemPrompt,再看到调用方的 content 作为一条用户消息。随包提供的 market-search profile 要求输出简洁的 dshfind 关键词查询,不附带解释。

Token 影响

Profile prompt 是每次请求的固定成本;用户内容和生成答案随调用变化。辅助答案最多输出 512 tokens。

KV Cache 影响

所选 profile 的 provider、model 与 prompt 不变时前缀稳定。修改 profile 可能从变更的 system-prompt 片段起使复用失效;用户内容追加在该前缀之后。

已知限制与暂缓事项

  • Profile 通过精确 id 选择,不存在 fallback profile。
  • Profile、provider 或 model 缺失时 Remote 调用直接失败,不会静默切换路由。
  • Profile 编辑由独立浏览器包提供。