rouyiemei/dsh-smart-router

README excerpt

dsh-smart-router · DSH 智能路由插件 让 DeepSeek Harness 在工作时 自动切换模型 ：三级难度（困难 / 一般 / 简单）+ 视觉任务路由。 各档模型从你在「设置 → 模型」中 已经配置好 的模型里选取，不重复录入地址与 Key。 选一个虚拟模型「Smart Router（自动路由）」，剩下的交给分类器。 English · 简体中文 它解决什么问题 - 性能分层 ：困难任务（架构/重构/疑难调试）交给强模型，简单任务（闲聊/收尾/小改动）交给便宜快速的模型，一般任务走中间档——像 cc-switch 为 Claude Code 配置「主模型 / 快速模型 / 视觉模型」那样，为 DSH 配置三档能力。 - 视觉能力 ：很多人会额外装视觉插件给 DSH 看图。本插件把视觉路由 整合进路由器 ：消息里带图 → 自动走视觉档模型；纯文本 → 按难度走三档。开箱即用，默认内置 免费匿名视觉模型 （OVHcloud Qwen2.5-VL-72B-Instruct，无需 Key），也可换成你自己配置的任何视觉模型。 - 缓存友好 ：建议三档选同一供应商的同一系列（如同一家的 pro / flash 版），前缀缓存命中率更高、更省钱（设置页内置提示）。 安装 重启 dsh web 后： 1. 打开 设置 → 智能路由 ：为 困难 / 一般 / 简单 / 视觉 四行各选一个模型（下拉里就是你已配置的模型，视觉行只列支持图片的模型）。 2. 回到会话，点右下角模型选择器，选 Smart Router（自动路由） 。 3. 直接开聊：分类器自动分流，每个请求都会路由到对应档位的模型。 不配置任何档位也能用：请求会回退到你的默认模型（fail-open，绝不静默失败）。 工作原理 - 路由在 LLM 适配器层 完成（参考 llm-adaptive / dsh-vision-mix 的架构）：注册虚拟 provider， stream() 内按请求内容决策后经 prepareCall().stream() 转发， 不修改宿主源码 ，与其它视觉插件互不冲突。 - 分类器两种模式： 启发式 （默认，零成本零延迟，关键词 + 代码量 + 文件引用数评分）； LLM （更准，复用简单档模型做一次小调用，带 120s 缓存）。 - 视觉准入：虚拟模型声明 inputModalities: ['text', 'image'] ，DSH 的图片预检（ MODEL DOES NOT SUPPORT IMAGES ）直接放行——不需要打宿主补丁（对比 dsh-easyvision 的 patch 方案）。 设置说明（设置 → 智能路由） 设置 说明 启用路由 关闭后请求直接走默认模型 分类方式 heuristic 启发式（默认） / llm LLM 分类 困难…

Category