如何通过API调用Ollama本地模型？

Question

**如何通过API调用Ollama本地模型？** Ollama默认提供一个命令行工具与本地模型交互，但其也支持通过REST API进行调用。首先，确保Ollama服务已启动并监听在指定端口（默认11434）。接下来，你可以通过向`http://localhost:11434/api/generate`发送POST请求来调用模型，请求体需包含模型名称、提示词等参数。需要注意模型名称、参数格式是否正确，以及是否开启跨域访问限制。此外，Ollama还支持流式响应，适用于需要逐步输出的场景。掌握这一接口调用方式，有助于将Ollama集成到各类本地AI应用中。

Answer 1

一、Ollama API调用基础概述

Ollama 是一个本地运行的大型语言模型框架，其默认通过命令行工具与用户交互。然而，Ollama 同时提供了 REST API 接口，使得开发者可以将其模型集成到各类本地或远程应用中。通过 API 调用，开发者可以实现自动化处理、远程调用、流式输出等功能。

默认情况下，Ollama 的 API 服务监听在 http://localhost:11434，开发者可以通过向 /api/generate 发送 POST 请求来调用模型。

二、API调用的基本步骤

1. 启动 Ollama 服务
2. 确认模型已加载或下载
3. 构建符合规范的请求体
4. 发送 POST 请求至 http://localhost:11434/api/generate
5. 处理响应数据，支持流式输出

三、请求体结构详解

以下是一个标准的请求体示例：

{
  "model": "llama3",
  "prompt": "请用中文解释什么是深度学习。",
  "stream": false
}
  

关键字段说明如下：

字段	类型	说明
model	string	模型名称，如 llama3、mistral 等
prompt	string	输入的提示词
stream	boolean	是否启用流式响应，默认为 false

四、流式响应（Streaming）处理

当设置 stream: true 时，Ollama 将返回一个流式响应，适用于需要逐步输出结果的场景。例如，在网页聊天应用中，逐步输出可以让用户看到逐字生成的效果。

流式响应的数据格式为每行一个 JSON 对象，示例如下：

{"response": "深度"}
{"response": "学习"}
{"response": "是机器"}
{"response": "学习的一个"}
{"response": "子领域"}
  

开发者在客户端需使用 EventSource 或异步读取方式处理流式响应。

五、跨域访问与安全限制

由于 Ollama 默认不开启跨域访问（CORS），若从前端页面调用 API，可能会遇到跨域限制问题。解决方法包括：

• 使用代理服务器转发请求
• 修改 Ollama 源码启用 CORS（不推荐）
• 通过浏览器插件临时绕过 CORS

建议在本地开发时使用代理方式，以确保安全性与兼容性。

六、流程图：API调用逻辑

graph TD
      A[启动Ollama服务] --> B[确认模型存在]
      B --> C[构建API请求]
      C --> D[发送POST请求到/api/generate]
      D --> E{是否启用流式输出?}
      E -->|是| F[逐行读取响应]
      E -->|否| G[等待完整响应]
      F --> H[展示逐步输出]
      G --> I[展示完整输出]

七、集成到实际项目中的建议

将 Ollama 集成到实际项目中时，建议采用以下策略：

• 使用 Node.js 或 Python 作为中间层服务，封装 Ollama 调用逻辑
• 实现请求缓存机制，减少重复调用开销
• 添加日志记录与异常处理机制
• 结合前端框架（如 React、Vue）实现交互式界面

例如，使用 Python 的 Flask 框架封装 Ollama 调用服务，可以实现统一接口管理。