Skip to content

dsh-fs-encoding

Verified

dsh-fs-encoding · v1.0.1 · MIT

Encoding-governed read/write/edit tools for DeepSeek Harness (dsh): UTF-8 BOM fidelity and byte-exact round-trips for GBK, Big5, Shift-JIS, EUC-KR, Windows-1251 and UTF-16 text files.

Install

dsh plugin add dsh-fs-encoding

Confirm the layer applied with dsh --profile default --dump-config — see the install guide.

Source

Tags

Creators

Readme

dsh-fs-encoding — DSH 文件编码守护

DeepSeek Harness(DSH)提供的文件编码治理插件:让 AI 读写文件时不再弄坏 BOM 与多字节编码

仓库https://github.com/MrWeiCodes/dsh-fs-encoding

🌏 中文 | English

dsh · dsh-plugin · plugin · encoding · BOM · GBK · Big5 · Shift-JIS · UTF-16 · AI agent · 编码 · 文件编码 · 乱码

简介

DSH 自带的 read / write / edit 三个文件工具只认 UTF-8,遇到中文、日文、韩文项目里常见的编码就会出问题:

  • GBK、Big5、Shift-JIS 等编码的文件根本读不了,直接报 invalid UTF-8 text,AI 只能干看着;
  • 带 BOM 的 UTF-8 文件能读,但 BOM 会被悄悄吃掉——AI 随手改一次,文件开头那三个字节就没了。对 PHP、旧版编译器、部分 Windows 软件来说,文件头少了 BOM 就可能解析出错或直接乱码;
  • 更麻烦的是没有任何警告:你只会在某天发现文件坏了,却不知道是哪次编辑弄坏的。

本插件接管这三个工具,在完整保留原有行为(沙箱围栏、读后写保护、版本校验、diff 展示)的前提下,让非 UTF-8 文件和 BOM 都能正确读写:文件原来是什么编码,改完还是什么编码。

功能特性

  • 字节级保真:文件编码在首次读取时确定一次,之后每次保存都按原编码写回。改一个 GBK 文件,它仍然是一个 GBK 文件,不会被偷偷转成 UTF-8。
  • BOM 保真:原本有 BOM 就精确还原,原本没有就绝不擅自添加——两个方向都不会出错。
  • 换行符保真:CRLF / LF / CR 在读取时识别、保存时还原,Windows 项目不会被改成 LF。
  • 绝不静默损坏:如果目标编码表示不了新内容(比如往 GBK 文件里写 emoji),插件会直接拒绝写入并说明原因,文件保持原样——而不是写进去一堆 ? 把文件毁掉。
  • 读不了会告诉你怎么办:遇到非 UTF-8 文件时,插件会列出最可能的几种编码和各自的解码效果,AI(或你)选一个重新读即可,就像 VS Code 的「通过编码重新打开」。
  • 十九种编码:UTF-8(含 BOM)、UTF-16、UTF-32,以及 GBK、Big5、Shift-JIS、EUC-KR 和 Windows-125x 全系(西欧、中欧、西里尔、希腊、土耳其、希伯来、阿拉伯、波罗的海)。
  • 零学习成本:三个工具的参数、返回格式与原版完全一致,是直接替换,原有提示词和工作习惯都不用改;read 只多了一个可选的 encoding 参数。
  • 配置简单:一个 YAML 文件,几项开关,都能用环境变量覆盖。

使用

三个工具与原版用法完全相同,read 多了一个可选参数:

read({ file_path: "legacy.txt", encoding: "gbk" })

不带 encoding 时插件会自动识别 UTF-8 文件、带 BOM 的 UTF-16 / UTF-32 文件以及 BOM 本身;只有无 BOM 的非 UTF-8 文件才会停下来问你,并给出候选:

[E_NOT_TEXT] legacy.txt is not valid UTF-8. Most likely gbk. Re-read with
read({ file_path: "legacy.txt", encoding: "gbk" }) to decode it, or set
autoGuessEncoding: true in the plugin config to decode automatically.
Candidates: gbk("你好,世界"), big5("斕疑"), shift_jis("ト羲")

照着提示里的调用重读一次,编码就从「猜测」变成了「已知事实」,后续写入都会按它进行。

无 BOM 的 UTF-16 / UTF-32 文件同理,用 read({ file_path: "<路径>", encoding: "utf16le" }) 显式指定即可正常读写(这类文件在 Windows 上较少见,且无 BOM 时无法可靠自动区分字节序,因此不做猜测)。

为什么默认要问你一下? GBK、Big5、Shift-JIS 的字节范围在短文本上互相重叠,猜错在界面上是看不出来的——而且会按错误的编码写回,把文件彻底弄坏。所以插件默认选择「宁可失败,不可猜错」。如果你更希望它尽力解码,把 autoGuessEncoding 设为 true 即可。

安装

⚠️ 冲突提示任何在同一个作用域层注册 read / write / edit 的插件都与本插件互斥——同一层重复注册同名工具会直接报错,所以只能启用一个。

插件启动时若发现这三个名字已被同一层的其他插件占用,会拒绝安装并指出具体是哪个工具名被占了,不会留下半残的工具集。要解决冲突,要么从 profile 移除本插件,要么关掉那个占用了名字的插件:

# 在 profile 的 cordis.patch.yml 中
- id: <对方的插件 id>
  disabled: true

注意:内建 read / write / edit 位于更外层的宿主/preset 层,不构成冲突——本插件正是要在 agent 自己的层上覆盖它们,这与原生工具的 shadow 机制一致。

方式一:让 AI 安装(最简单)

把本仓库地址告诉 DSH 的 AI 助手即可,例如:「安装 https://github.com/MrWeiCodes/dsh-fs-encoding 这个插件」。AI 会替你完成插件装载、依赖与补丁处理;之后重启 dsh web

方式二:从 npm 安装(推荐)

dsh plugin --profile web add dsh-fs-encoding

推荐这条路径的原因:npm 包里已包含编译好的 lib/,安装时不执行任何构建脚本——不受 pnpm 构建授权限制的影响,也不依赖你本地的编译环境。之后重启 dsh web

方式三:从 GitHub 安装

dsh plugin --profile web add -w github:MrWeiCodes/dsh-fs-encoding

从 GitHub 装的是源码,lib/prepare 脚本现场编译,所以装完可能需要在 profile 的 pnpm-workspace.yaml 里放行构建脚本(pnpm 10 起默认阻止依赖执行构建脚本,按它打印的提示把那一行粘进去再重跑即可)。不想处理这一步就用「方式二」——npm 包已包含编译产物,没有这个环节。

从本地目录安装的已知问题:Windows 上若插件目录与 profile 不在同一个盘符(例如插件在 G:\、profile 在 C:\),pnpm 会把 file: 依赖错误解析成 C:\Users\<用户名>\... 而安装失败。此时请改用「方式四」。

方式四:手动安装

无 pnpm 或离线环境时的备选路径:

  1. 把本仓库克隆到 profile 的插件目录,并在目标目录构建一次(prepare 脚本会生成 lib/):
    # 示例:web profile
    $dst = "$HOME\.dsh\profiles\web\packages\dsh-fs-encoding"
    git clone https://github.com/MrWeiCodes/dsh-fs-encoding.git $dst
    cd $dst
    npm install      # 同时触发 prepare → 生成 lib/
    
  2. 在 profile 的 package.jsondependencies 中加入:
    "dsh-fs-encoding": "file:./packages/dsh-fs-encoding"
    
  3. cordis.patch.yml 的内容并入 profile 的 cordis.patch.yml(在文件末尾追加)。
  4. 重新安装依赖并重启:pnpm install(或 npm install)、dsh web

更新

  • 方式一(AI 安装)的:直接告诉 AI「更新 dsh-fs-encoding 插件」即可。
  • 方式二(npm 安装)的
    dsh plugin --profile web add dsh-fs-encoding@latest
    
    然后重启 dsh web。npm 路径同样不涉及构建步骤。
  • 方式三(GitHub 安装)的
    dsh plugin --profile web add -w github:MrWeiCodes/dsh-fs-encoding
    
    若没有拉到最新提交(git 依赖有缓存),先移除再重新添加:
    dsh plugin --profile web remove dsh-fs-encoding
    dsh plugin --profile web add -w github:MrWeiCodes/dsh-fs-encoding
    
    然后重启 dsh web更新到新提交后 commit 号会变,若 pnpm 再次要求放行构建,按方式三的说明重做一次即可。
  • 方式四(手动)安装的
    cd "$HOME\.dsh\profiles\web\packages\dsh-fs-encoding"
    git pull            # 或重新拷贝新版本覆盖
    npm install         # 依赖声明有变化时执行,同时重新触发 prepare
    
    然后重启 dsh web

配置($DSH_HOME/plugins/dsh-fs-encoding/config.yaml)在更新后都会保留。

卸载

方式一(AI 安装)的:让 AI 卸载

直接告诉 AI 助手「卸载 dsh-fs-encoding 插件」,AI 会移除插件、清理补丁与依赖。

方式二(npm)/方式三(GitHub)安装的

dsh plugin --profile web remove dsh-fs-encoding

然后重启 dsh web。原生的 read / write / edit 会立刻恢复,无需任何额外操作。

方式四(手动)安装的

  1. 从 profile 的 cordis.patch.yml 中删除本插件的 insert 行。
  2. 从 profile 的 package.jsondependencies 中删除 "dsh-fs-encoding": ...
  3. 重新安装依赖并重启:pnpm install(或 npm install)、dsh web

残留位置清单(AI 卸载时按此清理)

  • 配置目录$DSH_HOME/plugins/dsh-fs-encoding/——$DSH_HOME 默认是 ~/.dsh(Windows 下 C:\Users\<用户名>\.dsh),插件的 config.yaml 保存在这里。卸载不会自动删除,如需彻底清理请手动删除整个目录。
  • 插件目录(方式四安装时):$DSH_HOME/profiles/<profile>/packages/dsh-fs-encoding/
  • 依赖与补丁(方式四安装时):profile 的 package.json 中的 "dsh-fs-encoding": ... 依赖、cordis.patch.yml 中的 insert 行。
  • 无全局注册表、npm 全局包或系统级写入;插件不在会话日志里写入任何自有事件。

配置

默认配置就能用,通常不需要动它。 只有想调整「猜编码」的行为时才需要改。

配置文件位置(首次启动自动生成,内含完整注释):

$DSH_HOME/plugins/dsh-fs-encoding/config.yaml

全部选项

选项 默认值 作用
autoGuessEncoding false 遇到读不了的非 UTF-8 文件时:自动猜,还是报错让你选
normalizeToUtf8 false 保存时是否把 GBK 等老编码转成 UTF-8
supportedEncodings 内置清单 参与自动猜测的编码清单
excludeEncodings 从内置清单里去掉几个编码
maxFileBytes 10 MiB 单个文件的读取上限

常见需求(直接抄)

想让它自己猜,不要每次都来问我

autoGuessEncoding: true

想彻底告别编码问题(GBK 文件第一次保存后就变成 UTF-8)

normalizeToUtf8: true

某个编码老是猜错(例如西里尔文抢走了西欧文本)

excludeEncodings: [windows-1251]

编码清单:两个键有什么区别

插件内置一份用于自动猜测的编码清单。你可以做减法,也可以整个换掉:

你的需求 该用哪个 插件以后新增编码时
只想去掉一两个 excludeEncodings ✅ 仍然自动生效
想完全用自己的清单 supportedEncodings ❌ 收不到了

为什么建议优先用 excludeEncodingssupportedEncodings 一旦写上,就等于把清单冻结在你的配置文件里——插件以后支持了新编码,你也不会收到,而且它不会替你改回去(插件从不修改已有配置)。

清单只影响"自动猜测",不影响"能不能读"。 任何编码都可以显式指定读取,即使它不在清单里:

read({ file_path: "legacy.txt", encoding: "windows-1253" })

环境变量

适合临时测试或容器部署。环境变量始终优先于配置文件

变量 对应选项
DSH_FS_ENCODING_AUTO_GUESS autoGuessEncoding
DSH_FS_ENCODING_NORMALIZE_TO_UTF8 normalizeToUtf8
DSH_FS_ENCODING_SUPPORTED_ENCODINGS supportedEncodings
DSH_FS_ENCODING_MAX_FILE_BYTES maxFileBytes

excludeEncodings 没有环境变量——它是唯一只能在配置文件里写的选项。

normalizeToUtf8 不会转换 UTF-16 / UTF-32 文件:它们本来就是 Unicode,强行转码反而会破坏依赖它们的程序。

支持的编码

类别 编码
Unicode utf8utf8bomutf16leutf16beutf32leutf32be
东亚 gbk(含 gb18030gb2312cp936)、big5(含 cp950)、shift_jis(含 sjiscp932)、euc-kr(含 cp949
Windows ANSI windows-1250(中欧)、windows-1251(西里尔)、windows-1252(西欧)、windows-1253(希腊)、windows-1254(土耳其)、windows-1255(希伯来)、windows-1256(阿拉伯)、windows-1257(波罗的海)——每个都可用 cp12xx 写法
其他 iso-8859-1(含 latin1

关于 windows-1258(越南语):暂不支持。越南语需要组合字符(ế 是一个码点、两个字节),而底层 iconv-lite 的单字节表无法拆分,67 个常用越南语字符中有 52 个会被编码成 ?。加入它会造成「文件读得出来却几乎存不进去」,反而更像 bug,因此暂时不开放。

这张表是"能读写",不是"会自动猜"。 自动猜测只用配置里的那一小份清单(默认 7 种),范围小是为了降低猜错率。表里其他编码照样能用,显式指定即可:read({ file_path: "x.txt", encoding: "windows-1253" })。清单怎么调见上方配置

编码名大小写与写法都兼容:Shift-JISshift_jisSJIS 指的是同一个编码。

常见错误

报错 含义与处理
E_NOT_TEXT 不是合法 UTF-8 且无 BOM。按提示用 read({ file_path: "...", encoding: "..." }) 重读,或开启 autoGuessEncoding
E_UNMAPPABLE 目标编码表示不了新内容(如 GBK 里的 emoji)。文件未被修改,请改用能表示该字符的编码,或先做 normalizeToUtf8 迁移。
E_BAD_ENCODING 编码名不认识,改用上表里的名字。
E_DECODE_FAILED 字节无法按指定编码解码,多半是编码选错了,换一个候选重试。
FS_STALE_VERSION 文件在读取之后被改动过。重新读一次再改,避免覆盖别人的修改。
FS_NOT_OBSERVED 本次会话从未读过这个文件。先 read 再写。
FS_EDIT_NOT_FOUND 没找到要替换的 old_string,确认内容与缩进是否一致。
FS_AMBIGUOUS_EDIT old_string 匹配到多处。补足上下文让它唯一,或加 replace_all: true 全部替换。
FS_SANDBOX_DENIED 被 DSH 沙箱拦下(如写入工作区外的路径),属于原有安全策略。

兼容性与冲突

  • 零侵入:插件只使用 DSH 的公开接口注册工具,不修改 DSH 原生代码,也不替换 ctx.fs 文件系统本身;卸载后原生工具立即恢复,不留痕迹。
  • 原有保障全部保留:沙箱围栏、读后写保护、版本校验、观察记录等原生行为一项不少——写入前该拦的照样拦,该问的照样问。
  • 与任何注册同名工具的插件互斥:本插件在作用域层注册 read / write / edit,而同一层重复注册同名工具会直接报错,所以同时只能启用一个这类插件。判定依据是这三个名字在该 agent 自己的层上是否已被占用,与对方是谁无关——发现冲突即拒绝安装并指出被占用的工具名(见上方安装说明)。宿主/preset 层的内建工具不属于冲突。
  • 会话状态:编码信息保存在内存中、按会话隔离,不写入磁盘、不污染仓库。DSH 重启后首次读取会重新识别编码。

开发

npm install
npm run typecheck   # 对 src 与 test 跑 tsc --noEmit
npm test            # 运行测试套件
npm run build       # src/ → lib/

测试既覆盖编码算法本身,也用真实的文件系统与沙箱组件做集成验证,包括全部编码的字节级往返、BOM / CRLF 保真、不可映射字符拒绝、陈旧写入拒绝与沙箱围栏。

如需自定义插件功能或修改插件,直接使用 DSH 的 Creator mode 即可快速进行开发修改。

路线图

第二阶段(尚未实现):undo_last_editstr_replace_editor

许可

MIT