1035041186/dsh-llm-ollama

README 摘要

dsh-llm-ollama DeepSeek Harness（dsh）的 Ollama 提供方插件：通过 Ollama 原生 /api/chat 协议接入本地或远程部署的 Ollama 服务，提供整页「Ollama」设置界面与一键模型发现。 功能特性 - 整页设置界面 ：设置 → Ollama 管理提供方（通过 settings.section 扩展点实现）。 - 原生协议对话 ：走 Ollama 原生 POST /api/chat （NDJSON 流式），支持工具调用（tool calls）与图片附件（多模态模型）。 - 模型发现 ：真实请求 GET /api/tags 拉取服务器上的模型，弹窗勾选加入模型目录；也可手动添加。 - 参数直通 Ollama ： - 模型级： 上下文窗口 → options.num ctx ， 最大输出 token → options.num predict （填多少传多少；未填上下文窗口时默认发送 32K / 32768）。 - 提供方级： 保持时间 → keep alive （如 5m ， -1 表示常驻）， 温度 → options.temperature （范围 0–2），可选 API 密钥。 - 会话级上下文覆盖 ：输入 /ollama-context 调出当前会话的上下文设置面板（预设 4K/8K/16K/32K/64K/128K、自定义值、跟随系统配置），覆盖值优先于模型配置作为 num ctx ；只作用于当前会话，新会话自动回到系统配置。右下角的上下文占用指示会同步反映覆盖值（仅对本插件管理的 Ollama 提供方会话生效，其他提供方的会话不受影响）。 接入 Ollama：本地或远程部署 Ollama 是本地/自托管的大模型运行平台。本插件通过其 原生协议 （ /api/chat ）接入，无论 Ollama 部署在哪里，配置方式完全一致——只需在设置页把提供方的 API 地址填成对应地址。 本地部署 - ollama pull llama3.2:3b 拉取模型， ollama serve 启动服务，默认监听 http://localhost:11434 。 远程部署 - 把 Ollama 部署到另一台机器或 Docker 容器，确保 11434 端口对 dsh 可达； - API 地址填 http:// :11434 即可，本地与远程用法相同； - Ollama 自身不带鉴权，公网暴露时建议在前面加反向代理（nginx / caddy）做 TLS 与访问控制。 为什么走原生协议（而非 OpenAI 兼容端点） - 参数直通 ：上下文窗口 / 最大输出 / 保持时间 / 温度以原生 options 字段精确生效；OpenAI 兼容端点只暴露 OpenAI 参数子集， num ctx 、 keep alive 等…

分类