wqy8593521/dsh-model-pro

wqy8593521★ 0TypeScript最后同步: 2026-08-22

在 GitHub 打开

Model Pro — DSH plugin for llm-pi-ai provider lifecycle management

README 摘要

dsh-model-pro · 模型 Pro 面向 DeepSeek Harness (DSH) 的动态 Cordis 插件,在设置页新增一个「 模型 Pro 」入口,为 llm-pi-ai 提供商提供 全生命周期管理 UI :新建 / 编辑 / 删除、启用 / 禁用、拉取远端模型、连通性测试、智能路由、组合提供商、观测与探活——并在卸载时 保证模型数据零丢失 。 中文文档 · 界面内置中英双语(跟随 DSH 语言设置自动切换)。 ✨ 功能特性(Features) 提供商管理 - 提供商 CRUD — 新建(引导式 3 步向导)、编辑、删除,卡片式列表带状态色条(绿=启用 / 琥珀=禁用)。 - 启用 / 禁用 — 一键切换。禁用的提供商会移入 disabledProviders ,从模型选择器中隐藏,但配置完整保留。 - 字段编辑 — 逐项编辑 baseURL 、 api 协议、 apiKeyEnv 、 displayName (概览页附「就绪检查」清单)。 - 自定义请求头 — 按提供商增删改 HTTP 请求头( authorization / api-key 由适配器自动填充,无需手填)。 密钥与凭据 - 加密存储 — 在 GUI 中直接粘贴 API Key,以 AES-256-GCM 加密 写入配置(配置文件只存密文),同时写入 DSH 凭据服务供请求时解析。 - 按需解密查看 — 默认掩码显示,点「显示已存」可解密查看;加密主密钥存于凭据服务且 永不重新生成 ,卸载重装后旧密文仍可解密。 模型 - 远端模型发现 — 一键 GET /models 拉取,支持全选 / 取消全选 / 反选。 - 批量写入模型 — 将选中模型「替换」或「合并」进提供商的显式模型列表。 - 本地转发名映射 — 为某个模型设置「转发名」,选它时实际向 provider 发送映射后的模型名。 连通性测试 - 真实连通性测试 —「测试」页对选定模型发起一次极小的真实推理,走完整凭据 / 请求头 / 协议链路,返回 延迟、停止原因与回复内容 ,用来在依赖之前确认模型确实可用。 智能路由与组合 - 智能路由 — 命名路由(如 auto )聚合多个 provider 的模型,支持 5 种策略 : priority (顺序优先+回退)/ weighted (按权重随机)/ round-robin (平滑加权轮询)/ min-latency (历史低延迟优先)/ sticky (会话粘滞)。可设每目标权重、启用开关、 healthAware 、会话粘滞、 maxFallbacks 、单目标超时。在模型选择器里选「router / 路由名」即用。 - 组合提供商 — 把多个 provider 的模型合并成一个虚拟 provider,支持 并集 / 交集 两种模式(模型选择器中显示为 comp…

在 GitHub 查看完整 README →
工具/开发cordisdeepseek-harnessdsh-pluginllm-pi-aimodel-provider

分类