hyls9527/dsh-local-vision

hyls9527★ 1TypeScriptLast synced: 2026-08-14

Open on GitHub

DSH 插件:为纯文本模型提供本地看图能力(llama.cpp / Ollama / LM Studio / vLLM 全兼容)|Local vision for text-only LLMs on any OpenAI-compatible local server

README excerpt

dsh-local-vision DSH profile bundle · v0.2.0 —— 给纯文本大模型装上「眼睛」 English : Give text-only LLMs (e.g. deepseek-v4-flash) local vision — works with any OpenAI-compatible local inference server (llama.cpp, Ollama, LM Studio, vLLM/SGLang, Jan, GPT4All, llamafile…). Pure Node, no Python, fully offline. 为不具备视觉能力的模型(如 deepseek-v4-flash)提供本地看图能力: 兼容所有 OpenAI 兼容的本地推理框架 ——llama.cpp、Ollama、LM Studio、vLLM/SGLang、Jan、 GPT4All、llamafile 等。纯 Node 实现、零 Python 依赖、全程离线。 一句话用法: local vision(image="图片路径") —— 自动选端点、自动挑视觉模型、 直接返回图片描述。 功能特性 - 多端点自动轮询 :配置多个本地推理服务,按序选用第一个「健康且含视觉模型」的端点 - 视觉模型自动探测 : GET /v1/models 枚举 + 名称启发式过滤(vl/vision/llava/minicpm/internvl/glm-4v/gpt-4o 等关键词)+ Ollama 原生 /api/tags capabilities 增强 - 仅限视觉模型 :端点没有视觉模型时明确报错并列出全部模型,绝不误用纯文本模型 - 模型参数可选 : model 可显式指定;缺省自动选择端点上第一个视觉模型 - health 探测、取消信号、超时控制一应俱全 安装到本机 profile 工具:local vision 参数 说明 image 图片绝对路径(png/jpg/webp/gif/bmp 等),必填 question 要问模型的问题;缺省为详细描述图片内容 maxTokens 回答长度上限,默认 1024 model 视觉模型 id(可选);缺省自动选择端点上第一个视觉模型 返回: { description, endpoint, model, usage? } 插件配置(cordis.patch.yml 可覆盖) 缺省端点:llama.cpp ( http://127.0.0.1:8090 ) + Ollama ( http://127.0.0.1:11434 )。 与 local-vision 技能的分工 需求 用哪个 快速纯文字 OCR、发票、表格、UI 元素坐标 local-vision 技能(PaddleOCR / Omn…

View full README on GitHub →
Tools / Devdsh-pluginvision

Category