Dify 接入万模API

适用协议:OpenAI Chat / Embeddings | 适合:LLM 应用编排、工作流、知识库和团队应用

Dify 不是普通聊天客户端,它通常会同时用到 LLM 模型Embedding 模型。接入万模API时,先把对话模型跑通,再配置知识库向量模型,避免把两个问题混在一起排查。

Dify 模型供应商配置示意

开始前确认

项目应该准备什么
Dify 工作区云端或自部署 Dify 均可
API Key控制台创建的 sk-...
LLM Base URLhttps://www.wanmoapi.com/v1
LLM 模型控制台可用 Chat 模型,例如 gpt-5.4-mini
Embedding 模型控制台可用 Embedding 模型

推荐配置顺序

  1. 先配置 LLM 模型。
  2. 创建一个最简单的 Chat 应用并测试。
  3. 再配置 Embedding 模型。
  4. 创建知识库并上传一小段文本测试索引。
  5. 最后再接入复杂工作流。

配置 LLM 模型

  1. 进入 Dify 工作区。
  2. 打开模型供应商设置。
  3. 选择 OpenAI-API-compatible、OpenAI Compatible 或自定义 OpenAI。
  4. Base URL 填:https://www.wanmoapi.com/v1
  5. API Key 填:你的 sk-...
  6. 模型名填控制台可用 Chat 模型。
  7. 保存并启用。

Dify 模型供应商配置示意

先把 LLM / Chat 模型跑通,再按下文单独配置 Embedding。示意图中的 API Key 已打码。

配置 Embedding 模型

知识库检索需要单独配置 Embedding,不能直接拿聊天模型当向量模型。

Dify 字段填写内容
ProviderOpenAI Compatible
Base URLhttps://www.wanmoapi.com/v1
API Keysk-...
Model TypeEmbedding
Model控制台可用 Embedding 模型

验证方式

验证 Chat 应用

  1. 新建 Chat 应用。
  2. 选择刚配置的 LLM 模型。
  3. 发送“你好,用一句话介绍你自己”。
  4. 到万模API控制台查看调用日志。

验证知识库

  1. 新建一个测试知识库。
  2. 上传一个很短的 txt 或 markdown 文件。
  3. 等待索引完成。
  4. 在应用里引用知识库提问。

常见问题

Chat 能用,知识库索引失败

通常是 Embedding 模型没有配置、模型名不对、或令牌分组无权访问 Embedding 模型。先单独配置 Embedding。

工作流节点报模型不存在

Dify 的不同节点可能使用不同模型。检查每个节点的模型选择,不要只看全局默认模型。

自部署 Dify 不生效

修改供应商或环境变量后,可能需要重启服务。确认服务端容器能访问 https://www.wanmoapi.com

消耗比普通聊天高

知识库索引、批量运行和工作流会产生多次请求。建议给 Dify 单独创建令牌,并设置额度上限。

下一步