young-tim/dsh-llm-governor

young-tim★ 1TypeScript最后同步: 2026-08-21

在 GitHub 打开

Multi-model governance, routing, fallback, quota, and usage for DeepSeek Harness

README 摘要

DSH LLM Governor dsh-llm-governor 是 DeepSeek Harness 的多模型治理插件。它在 DSH 现有模型调用链上 提供模型画像、用户访问控制、月度 Credits、Manual / Quality First / Credit First / Auto Routing、失败重路由和 Usage 审计;它不代理模型请求,也不管理 Provider 凭证。 模型选择直接进入 Composer(含 Auto),治理配置进入 DSH 原生 Settings,决策记录在 同一 Session 的 Governor Trajectory 视图中展示;默认不启动独立管理服务。 文档 - 需求基线 - 技术方案 - 实施与验收计划 - 依赖清单与兼容策略 - 示例配置 安装 本地验证(tarball) 真实安装链路(add → --dump-config → remove)已在临时 DSH HOME 中通过真实 dsh CLI 验证,见 test/package/install-real.test.ts 。 DSH 运行时与 Provider 凭证 Governor 只负责选路、额度、Fallback 和审计,模型调用及凭证读取仍由 DSH 负责: - Governor 不读取、保存或要求 DEEPSEEK API KEY 。 - DSH 必须能为最终选中的 Provider 取得对应凭证;可以使用 DSH Models/Credentials Service 中已保存的凭证,也可以使用该 Provider 支持的环境变量。 - 只有当路由选中 deepseek-official ,且 DSH 中没有可用的已保存凭证时, DEEPSEEK API KEY 才可能成为 DSH Provider Adapter 的配置项。选择其他 Provider 时,应配置该 Provider 自己所需的凭证。 - 临时 DSH HOME 验收不会复制真实 Profile 的凭证。真实启动已经验证 Governor 被 DSH 加载、严格配置生效、SQLite 数据库完成初始化,并进入 DSH Provider 调用阶段;随后出现 MISSING CREDENTIAL 表示测试环境缺少 DSH Provider 凭证, 不表示 Governor 依赖 DeepSeek API Key,也不代表已完成真实付费模型调用。 - 无外部模型费用的端到端功能验收使用真实 Cordis/DSH LlmRuntime 配合 FakeLlmAdapter ,覆盖选路、流式输出、Fallback、Usage 和 Credits。 首次启用 Auto Auto、Quality First 和 Credit First 都依赖模型 Quality。首次安装后打开 Sett…

在 GitHub 查看完整 README →
工具/开发access-controldeepseekdeepseek-harnessdshdsh-pluginfallbackllm-governancellm-routing

分类