welsione/dsh-model-router

welsione★ 0JavaScript最后同步: 2026-08-22

在 GitHub 打开

DeepSeek Harness (DSH) 统一模型路由插件:一个逻辑 ModelID 多供应商候选链路由、首 token 前故障转移 + 冷却、三档分级(tier1/2/3)、思考级别 reasoningEffort 与管理面板 | Unified model routing plugin for DSH

README 摘要

dsh-model-router 一个逻辑 ModelID 汇聚多家供应商的同名模型 —— 首 token 前失败自动切换候选(带冷却)、健康度择优、三档分级、每候选思考级别。设置面板 修改自动保存、即时生效 。 Overview / 简介 能力 一句话 自动故障转移 主候选首 token 前失败(限流/配额/认证/网络/模型不存在/空响应)自动切下一候选,失败候选进冷却期 健康度择优 每个候选按滑动窗口内成功/失败计数重排——稳定成功的提前、频繁失败的延后,可一键关闭 三档分级 tier1 轻量 · tier2 标准 · tier3 强大,按 purpose 自动选档、档空逐级降档;支持会话级手动档位 思考级别 每候选可配 reasoningEffort ,保存时实际请求预检,只允许宿主真正支持的档位 档位名称 每套餐独立自定义档位显示名( routes. .tierNames ),彩色胶囊点击即改名,对话窗口同步展示 管理面板 DSH 设置页内置「模型路由」卡片,修改自动保存;对话窗口套餐选择器实时路由状态 会话安全 会话事件可恢复、跨 provider 自动清洗 replayState 、流级剥离 标签 Compatibility / 兼容性 - DSH 0.1.0-rc.x ( 0.1.0-rc.8 实测)· Node.js ≥ 22(React 18/19)· 最后验证 2026-08-22。 Install / Uninstall · 安装 / 卸载 装好后设置页出现「模型路由」卡片;对话窗口模型选择器变为「套餐」选择器(三档切换)。详见 docs/usage.md。 Quick start / 快速开始 打开 设置 → 模型路由,添加统一 ModelID(如 deepseek-v4-flash ),为 tier1/2/3 各配候选即可—— 修改自动保存、即时生效 。最小配置与完整示例见 docs/usage.md。 Configuration / 配置 面板可视化编辑 enabled / cooldownMs / maxSwitchesPerStep / healthRanking / reasoningEffortsFallback / routes (含每套餐 tierNames )。完整配置表、模型能力写回宿主 llm-pi-ai 与面板 API 见 docs/usage.md。 Permissions & data / 权限与数据 不对外发请求、不读写工作区文件、不上报遥测、不接触 API key;运行时状态为内存态,手动档位持久化到宿主 settings。 Troubleshooting / 故障排查 设置页无卡片 / 候选不在目录 / 自动保存失败 / 一直切换 / 会话打不开 → 快速排查清单见 docs/usage.md。 De…

在 GitHub 查看完整 README →
工具/开发dsh-plugin

分类