不管什么 Agent 工具,接模型永远是三件套:base_url(去哪调)、API Key(你是谁)、模型名(调谁)。官方直连填官方地址,用中转站就换成中转的地址与 Key,其余不变。本文按工具逐个给填法,最后给搭配与避坑。

Dify:模型供应商配置
- 设置 → 模型供应商 → 添加「OpenAI 兼容」供应商:API Key 填中转 Key,API Base 填中转地址(通常以 /v1 结尾),逐个添加你要用的模型名
- 添加后先在供应商页点一次「测试」,绿了再去应用里选——九成「应用没反应」是这一步没过
- 系统模型设置里把推理、Embedding、Rerank 三类默认模型分别指好,知识库才能正常工作
Open WebUI / LobeChat 类前端
- 设置 → 外部连接 / 模型服务:新增 OpenAI 兼容连接,URL 与 Key 同上
- 保存后模型列表会自动拉取;拉不到先查地址是否多了或少了 /v1,这是最高频错误
- 多渠道并存时给连接起可辨识的名字(如「中转-主力」「官方-备用」),切换时不抓瞎
Bot 平台 / 框架(以环境变量为例)
- 多数框架认三件套环境变量:OPENAI_BASE_URL、OPENAI_API_KEY、MODEL(或在配置文件里对应字段)
- 本站 Rakazo、DSH 均为此接法:主渠道指向自建中转,看门狗负责在渠道间切换,Bot 侧配置一次即可
- CrewAI 等框架在代码里以 llm 对象传入 model 与 base_url,记得把模型名写成「供应商/模型名」格式(如 openai/模型名)以免路由错误
模型搭配表(本站生产配置抽象版)
- 总管 / 主脑:旗舰档(Claude Opus 系 / GPT 旗舰)——规划与拍板不省
- 执行专员:中档主力(Sonnet 系 / GPT 主力档)——质量与成本平衡
- 跑腿杂务:国产高性价比档(DeepSeek / Qwen)——摘要、检索、格式活
- 兜底通道:与主渠道不同源的备用模型——主渠道挂时请求级切换,Agent 不停摆
避坑五条
- 模型名必须与渠道清单一字不差,多一个空格都报 404
- 推理型模型给足 max_tokens,否则「调通了但没正文」(见实测 001 期)
- Key 只放服务端配置,绝不进前端与代码仓库
- 每个 Key 设月度额度上限,Agent 死循环烧钱是真实存在的事故类型
- 上线前用同一道题在新渠道跑一遍,与旧渠道并排比,确认没被换模型
© Copyright Notice
文章版权归作者所有,未经允许请勿转载。
THE END










Please log in to view comments