dify自定义工具agent调用不成功

Question

铁铁们，由于公司内网且业务特殊，我在dify开发时，包含大量的代码执行，但是此方法只能适用于工作流，我想将特定工具（如数据库查询、绘图）等功能封装成自定义工具，使用agent功能，agent能调用到我的工具，也看得到output的结果，但是agent对我的结果没有反应，似乎是没有将结果重新返回给llm，请问这是什么原因呢？

Answer 1

下午好🌅🌅🌅
本答案参考通义千问

你提到的问题是关于 Dify 平台 中自定义工具（Custom Tool）与 Agent 的集成问题，具体表现为：Agent 能调用你的自定义工具并获取输出结果，但无法将结果重新返回给 LLM（大语言模型），导致 Agent 无法根据输出进行下一步处理。

---

✅ 问题原因分析

1. 自定义工具未正确配置返回格式

   • Dify 的 Agent 在执行自定义工具时，期望的 返回格式 是特定的 JSON 格式，包括 content 和 tool_response 字段。
   • 如果你的工具返回的是原始数据或不符合格式，Agent 将无法识别和使用这些结果。

2. Agent 未正确设置“工具响应”逻辑

   • 即使工具返回了正确格式，如果 Agent 的流程中没有明确指定如何处理工具响应，LLM 可能不会接收到这些信息。

3. 工具执行后未触发后续步骤

   • 某些情况下，即使 Agent 调用了工具并获取到了结果，但由于没有设置下一步动作（如继续推理、生成最终答案等），LLM 也不会被触发。

---

🔧 解决方案（详细步骤）

第一步：确保自定义工具返回正确的 JSON 格式

✅ 正确的工具返回格式示例：

{
  "content": "查询成功",
  "tool_response": {
    "data": [
      {"id": 1, "name": "张三"},
      {"id": 2, "name": "李四"}
    ]
  }
}

❌ 错误的格式示例（不可被 Agent 识别）：

[
  {"id": 1, "name": "张三"},
  {"id": 2, "name": "李四"}
]

重点：必须包含 content 和 tool_response 字段，且 tool_response 内部结构要清晰。

---

第二步：在 Dify 中配置 Agent 的“工具响应”逻辑

1. 打开 Dify 控制台，进入 Agent 配置页面。
2. 在 工作流（Workflow） 或 提示词（Prompt） 设置中，找到 工具响应处理部分。
3. 确保设置了以下内容：
   • 当工具返回后，是否继续调用 LLM？
     • 选择 “是”，表示需要将工具返回的数据传递给 LLM 继续处理。
   • 如何处理 tool_response？
     • 可以通过模板变量（如 {{tool_response.data}}）将数据注入到 LLM 的输入中。

重点：必须显式配置 Agent 如何处理工具返回的数据，否则 LLM 不会感知到结果。

---

第三步：在代码中确保工具返回符合要求的格式

如果你的自定义工具是通过代码实现的（例如 Python 脚本、Node.js、Java 等），请确保返回值符合上述 JSON 格式。

✅ 示例：Python 工具代码

def query_database():
    # 假设从数据库查询出数据
    data = [{"id": 1, "name": "张三"}, {"id": 2, "name": "李四"}]
    
    return {
        "content": "查询成功",
        "tool_response": {
            "data": data
        }
    }

✅ 示例：Node.js 工具代码

async function queryDatabase() {
    const data = [{ id: 1, name: '张三' }, { id: 2, name: '李四' }];
    return {
        content: "查询成功",
        tool_response: {
            data: data
        }
    };
}

---

第四步：检查 Agent 的工作流逻辑

1. 进入 Agent 的 工作流编辑器。
2. 确认是否在调用工具之后有以下步骤：
   • LLM 推理（即让 LLM 根据工具返回的数据生成回答）
   • 最终输出（将 LLM 的输出返回给用户）

重点：工具调用后必须有 LLM 处理步骤，否则 Agent 无法完成闭环。

---

🛠️ 总结：关键点总结

1. 工具返回格式必须为 JSON，包含 content 和 tool_response 字段。
2. Agent 必须配置“工具响应处理”逻辑，确保 LLM 能够接收数据。
3. 工具调用后必须有 LLM 处理步骤，否则 Agent 无法生成最终答案。
4. 确保代码中返回的数据格式与 Dify 要求一致。

---

📌 附加建议

• 使用 Dify 提供的 调试模式 查看 Agent 的执行日志，定位是哪个环节出了问题。
• 如果你使用的是 自定义 API 工具，请确保接口返回的 JSON 格式完全匹配 Dify 的预期格式。
• 若你使用的是 自定义脚本工具，可以尝试在脚本中添加 print(json.dumps(...)) 来查看实际返回内容。

---

如有需要，我可以提供一个完整的 自定义工具 + Agent 工作流配置示例，帮助你快速上手。欢迎继续提问！