TT432/dsh-dcp

README 摘要

dsh-dcp：LLM-DCP（Dynamic Compressing Prompts）的 dsh 插件 以工具形式实现 LLM-DCP （arXiv:2504.11004）： 把 prompt/上下文压缩建模为 MDP，用 LLM 充当 DCP-Agent 多步迭代压缩，保留关键信息。 历史说明：早期版本曾包含 DCP (SOSP'25, arXiv:2510.10620) 的 dcp plan / dcp benchmark 工具， 现已移除；本插件当前只提供 dcp compress（相关研究资料见 research\dcp-official\）。 工具 - dcp compress （LLM-DCP）：用 ctx.llm 的可配置 LLM 充当 DCP-Agent，按论文 MDP 框架 多步迭代压缩 长 prompt/上下文：逐步删除冗余、保留关键信息（实体/数字/标识符/指令要点）， 目标压缩率随轨迹收紧（HPC 课程思想）。适合在调用长上下文模型前压缩提示词/文档/会话上下文。 安装 新装依赖后需重启 web 服务；改 patch 会热重载。 测试 实现说明 论文把 prompt 压缩建模为 MDP（状态=压缩中 prompt；动作=逐 token 保留/删除；奖励=压缩率+关键信息保留−输出分布差异−越界惩罚）， DCP-Agent 是逐 token 二分类策略网络（xlm-roberta-large + PPO + HPC 课程训练）。 本插件在 dsh 中的等价实现（ LLM-as-DCP-Agent ）： - 用 ctx.llm 的可配置 LLM 充当策略网络，按 MDP 框架迭代多步（每步基于上一步的动态上下文）； - 目标压缩率随轨迹逐步收紧（HPC 课程思想：从宽松到严格）； - 关键信息保留：压缩指令显式要求保留实体/数字/标识符/指令 + 用户可指定 must-keep 要点； - 每步校验（空输出/无进展/无减少）与提前终止（达标即停，避免过度压缩）。 - 论文"不依赖黑盒 LLM 训练"的目标在推理端由 LLM 直接承担；dsh 未暴露 tokenizer， token 数为字符近似估算（英文≈4 字符/token，CJK 加权），压缩率控制以字符比例为准。 - 官方仓库（Fhujinwu/DCP）在论文接收后才会更新代码，本实现基于论文 §IV 的方法重写。 参考 - LLM-DCP：https://arxiv.org/abs/2504.11004 · 官方仓库（暂无代码）：https://github.com/Fhujinwu/DCP - DCP (SOSP'25)：https://arxiv.org/abs/2510.10620（规划工具已移除，研究资料见 research\dcp-official\）

分类