把 Agent 接上中转站:配置全流程与模型搭配实战

不管什么 Agent 工具,接模型永远是三件套:base_url(去哪调)、API Key(你是谁)、模型名(调谁)。官方直连填官方地址,用中转站就换成中转的地址与 Key,其余不变。本文按工具逐个给填法,最后给搭配与避坑。

把 Agent 接上中转站:配置全流程与模型搭配实战 图解

Dify:模型供应商配置

  • 设置 → 模型供应商 → 添加「OpenAI 兼容」供应商:API Key 填中转 Key,API Base 填中转地址(通常以 /v1 结尾),逐个添加你要用的模型名
  • 添加后先在供应商页点一次「测试」,绿了再去应用里选——九成「应用没反应」是这一步没过
  • 系统模型设置里把推理、Embedding、Rerank 三类默认模型分别指好,知识库才能正常工作

Open WebUI / LobeChat 类前端

  • 设置 → 外部连接 / 模型服务:新增 OpenAI 兼容连接,URL 与 Key 同上
  • 保存后模型列表会自动拉取;拉不到先查地址是否多了或少了 /v1,这是最高频错误
  • 多渠道并存时给连接起可辨识的名字(如「中转-主力」「官方-备用」),切换时不抓瞎

Bot 平台 / 框架(以环境变量为例)

  • 多数框架认三件套环境变量:OPENAI_BASE_URL、OPENAI_API_KEY、MODEL(或在配置文件里对应字段)
  • 本站 Rakazo、DSH 均为此接法:主渠道指向自建中转,看门狗负责在渠道间切换,Bot 侧配置一次即可
  • CrewAI 等框架在代码里以 llm 对象传入 model 与 base_url,记得把模型名写成「供应商/模型名」格式(如 openai/模型名)以免路由错误

模型搭配表(本站生产配置抽象版)

  • 总管 / 主脑:旗舰档(Claude Opus 系 / GPT 旗舰)——规划与拍板不省
  • 执行专员:中档主力(Sonnet 系 / GPT 主力档)——质量与成本平衡
  • 跑腿杂务:国产高性价比档(DeepSeek / Qwen)——摘要、检索、格式活
  • 兜底通道:与主渠道不同源的备用模型——主渠道挂时请求级切换,Agent 不停摆

避坑五条

  • 模型名必须与渠道清单一字不差,多一个空格都报 404
  • 推理型模型给足 max_tokens,否则「调通了但没正文」(见实测 001 期)
  • Key 只放服务端配置,绝不进前端与代码仓库
  • 每个 Key 设月度额度上限,Agent 死循环烧钱是真实存在的事故类型
  • 上线前用同一道题在新渠道跑一遍,与旧渠道并排比,确认没被换模型
© Copyright Notice
THE END
喜欢就支持一下吧
Likes5 Share
评论 Be the First to Comment
Avatar-AI源码站
欢迎您留下宝贵的见解!
Submit
Avatar-AI源码站

Nickname

Cancel
NicknameEmojiCodeImageQuick reply

    Please log in to view comments