Skip to content

conv-4-inspector

Verified

@jichong/conv-4-inspector · v1.0.2 · MIT · Web UI

LLM对话监视器 — track and display outbound LLM requests and their assembled responses in the DSH conversation view

Install

dsh plugin add @jichong/conv-4-inspector

Confirm the layer applied with dsh --profile default --dump-config — see the install guide.

Source

Tags

Creators

Readme

LLM对话监视器(conv-4-inspector)

在 DSH 对话页签栏里加一个 「LLM对话监视器」 视图,实时展示每一次发往大模型的完整请求(system、messages、工具定义、采样参数)和拼接后的最终响应(reasoning / text / tool-call 三段),外加耗时、token 用量、结束原因。

工作原理

宿主侧挂在 cordis 的 llm/stream 瀑布钩子上(dsh-llm 在真正调用 adapter 之前派发,参数就是 adapter 即将发送的 GenerateOptions):

llm/stream(options, next)
  ├─ 快照 options        → provider / model / messages / tools / 采样参数
  └─ 包装 next()         → 逐块透传 StreamChunk,同时累加增量
                            └─ 流结束时只保留「拼好的最终 blocks」
                               原始 delta 不入库、不展示

捕获结果放在一个有界的内存环形缓冲(默认 60 条 / 24 MB,超出丢最旧的),浏览器侧通过 ctx.webServer 注册的前缀路由 POST /conv-inspector/api/{list,detail,raw,capture,clear} 读取。

采集默认关闭,按会话逐个打开:llm/stream 回调先看 options.sessionId 在不在这个开关里,不在就直接 next() 透传,不做任何快照。开关是进程内的 Set,重启后回到全关。原文另有一个独立的小环形(最近 16 条,单条 512 KB 上限),不挤占结构化列表的名额。

因为是进程内内存缓冲,重启 dsh 后历史捕获会清空;开启某个会话后,该会话范围内的调用都会被捕获(含 compaction、session-title 等 one-shot 调用,用 purpose 标签区分);没有 sessionId 的请求不采集。

文件结构

conv-4-inspector/
├── package.json          # dsh.manifestVersion / bundle.patch / client.platform
├── cordis.patch.yml      # 挂载宿主侧 cordis 条目
├── build.js              # 把 src/client.js 包成 __ModuleLoader__ bundle
├── src/client.js         # 浏览器侧源码(React.createElement,无 JSX)
├── lib/index.js          # 宿主侧入口(cordis 插件)
├── lib/client.js         # 构建产物,由 dsh 以 /plugins/<id>/client.js 提供
└── test-host.mjs         # 离线自测:node test-host.mjs

改完 src/client.js 要重新构建:

node build.js     # 或 npm run build

安装

从 npm 装进 web profile(dsh plugin 会把参数转发给 pnpm):

dsh plugin --profile web add @jichong/conv-4-inspector

本地开发用 link:(改完源码即生效,无需重装):

dsh plugin --profile web add file:/path/to/conv-4-inspector

包里的 dsh.bundle.patch 会被自动并入配置树,不需要手改 profile 的 cordis.patch.yml。若要走手动路线,在 ~/.dsh/profiles/web/cordis.patch.yml 追加:

- insert:
    - id: conv-4-inspector
      name: '@jichong/conv-4-inspector'

新增 / 改名 bundle 会触发 profile 重组,装完重启一次 dsh --profile web 最稳。

验证是否装载:

dsh --profile web --dump-config | grep -A3 conv-4-inspector
curl -sS -X POST http://127.0.0.1:3080/conv-inspector/api/list -d '{}'

界面

  • 顶部:采集开关(只作用于当前会话,绿=采集中)、捕获条数、会话筛选(多于一个会话时出现)、自动刷新(2s)/ 刷新 / 清空
  • 列表每行:purpose 标签(main / compaction / session-title / streaming / error)、provider/model、响应预览、序号、消息数/工具数、输出 token
  • 展开后:概览 → 最终响应(绿框,拼接结果)→ 请求原文 / 响应原文 → System → 请求 messages(按 role 着色)→ 工具定义
  • 原文区默认折叠,点开才拉取(单条可达 512 KB,不跟着 2s 轮询走);JSON 自动缩进排版、XML 自动缩进,可切「看原始 / 排版」,带语法着色和一键复制
  • 深浅色跟随系统 prefers-color-scheme

采集开关

开关状态存在宿主进程内存里,POST /conv-inspector/api/capture:

# 查当前开了哪些会话
curl -sS -X POST http://127.0.0.1:3080/conv-inspector/api/capture -d '{}'
# 打开 / 关闭某个会话
curl -sS -X POST http://127.0.0.1:3080/conv-inspector/api/capture \
  -d '{"action":"set","sessionId":"session-xxxx","enabled":true}'

界面上就是面板左上角那个拨钮,会话 id 由 conversation.view 的 scope binding 注入(register 定义里的 inject: (key) => ({ ciSessionId: key }))。关闭只停止后续采集,已经抓到的记录保留,要清掉用「清空」。

注意

  • 请求体里的长字符串按 8000 字符截断,signal 等不可序列化字段会丢弃;options 对循环构造的请求是深冻结的,本插件只读不改。
  • 「原文」是 DSH 交给 adapter 的归一化请求/事件流,不是 provider 的实际线上字节:真正的 HTTP 请求由 @earendil-works/pi-ai 里的 fetch 发出,要抓那一层得包 globalThis.fetch,这里没做。响应原文是 StreamChunk 事件的 JSON 数组,不是 SSE 报文。
  • 面板注册在 conversation.view,与内置的 Chat / Trajectory 视图同级并列(id: llm-inspector,不覆盖已有项)。
  • 路由未做额外鉴权,与同 profile 的 dsh-web-tools 一致,依赖 webServer 自身的访问控制——只建议在 loopback 上使用。