ollama--ollama/README.md

Note

本文档由 WeHub 基于上游 README 翻译整理，属于社区翻译，非官方中文文档。
English · 原始项目 · 上游 README
原作者、版权与许可证归属以原始项目及本仓库 LICENSE 文件为准。

Ollama

开始使用开放模型构建。

下载

macOS

curl -fsSL https://ollama.com/install.sh | sh

或手动下载)

Windows

irm https://ollama.com/install.ps1 | iex

或手动下载)

Linux

curl -fsSL https://ollama.com/install.sh | sh

手动安装说明)

Docker

官方 Ollama Docker 镜像) ollama/ollama 在 Docker Hub 上可用。

库

• ollama-python)
• ollama-js)

社区

• Discord)
• 𝕏 (Twitter))
• Reddit)

快速开始

ollama

系统将提示你运行模型，或将 Ollama 连接到你现有的智能体（Agent）或应用程序，例如 Claude Code、OpenClaw、OpenCode、Codex、Copilot 等。

编程

启动特定集成：

ollama launch claude

支持的集成包括 Claude Code,)、Codex,)、Copilot CLI,)、Droid,) 和 OpenCode.)。

AI 助手

使用 OpenClaw) 将 Ollama 变成个人 AI 助手，覆盖 WhatsApp、Telegram、Slack、Discord 等平台：

ollama launch openclaw

与模型对话

运行 Gemma 4:) 并与之对话：

ollama run gemma4

完整列表请参见 ollama.com/library)。

更多详情请参阅快速入门指南)。

REST API

Ollama 提供了用于运行和管理模型的 REST API。

curl http://localhost:11434/api/chat -d '{
  "model": "gemma4",
  "messages": [{
    "role": "user",
    "content": "Why is the sky blue?"
  }],
  "stream": false
}'

所有接口（Endpoint）请参见 API 文档)。

Python

pip install ollama

from ollama import chat

response = chat(model='gemma4', messages=[
  {
    'role': 'user',
    'content': 'Why is the sky blue?',
  },
])
print(response.message.content)

JavaScript

npm i ollama

import ollama from "ollama";

const response = await ollama.chat({
  model: "gemma4",
  messages: [{ role: "user", content: "Why is the sky blue?" }],
});
console.log(response.message.content);

支持的后端

• llama.cpp) 项目，由 Georgi Gerganov 创立。

文档

• CLI 参考)
• REST API 参考)
• 导入模型)
• Modelfile 参考)
• 从源码构建)

社区集成

想要添加你的项目？提交一个 Pull Request。

聊天界面

Web

• Open WebUI) - 可扩展、自托管的 AI 界面
• Onyx) - 互联 AI 工作空间
• LibreChat) - 支持多提供商的增强版 ChatGPT 克隆
• Lobe Chat) - 带有插件生态的现代聊天框架（文档))）
• NextChat) - 跨平台 ChatGPT UI（文档))）
• Perplexica) - AI 驱动搜索引擎，开源版 Perplexity 替代品
• big-AGI) - 面向专业人士的 AI 套件
• Lollms WebUI) - 多模型 Web 界面
• ChatOllama) - 带知识库的聊天机器人
• Bionic GPT) - 本地部署 AI 平台
• Chatbot UI) - ChatGPT 风格 Web 界面
• Hollama) - 极简 Web 界面
• Chatbox) - 桌面和 Web AI 客户端
• chat) - 面向团队的聊天 Web 应用
• Ollama RAG Chatbot) - 使用 RAG 与多个 PDF 对话
• 基于 Tkinter 的客户端) - Python 桌面客户端

桌面

• Dify.AI) - LLM 应用开发平台
• AnythingLLM) - 适用于 Mac、Windows 和 Linux 的一体化 AI 应用
• Maid) - 跨平台移动和桌面客户端
• Witsy) - 适用于 Mac、Windows 和 Linux 的 AI 桌面应用
• Cherry Studio) - 多提供商桌面客户端
• Ollama App) - 桌面和移动端多平台客户端
• PyGPT) - 适用于 Linux、Windows 和 Mac 的 AI 桌面助手
• Alpaca) - 适用于 Linux 和 macOS 的 GTK4 客户端
• SwiftChat) - 跨平台，包括 iOS、Android 和 Apple Vision Pro
• Enchanted) - 原生 macOS 和 iOS 客户端
• RWKV-Runner) - 多模型桌面运行器
• Ollama Grid Search) - 评估和比较模型
• macai) - 适用于 Ollama 和 ChatGPT 的 macOS 客户端
• AI Studio) - 多提供商桌面 IDE
• Reins) - 支持参数调优和推理模型
• ConfiChat) - 注重隐私，支持可选加密
• LLocal.in) - Electron 桌面客户端
• MindMac) - Mac 版 AI 聊天客户端
• Msty) - 多模型桌面客户端
• BoltAI for Mac) - Mac 版 AI 聊天客户端
• IntelliBar) - macOS AI 助手
• Kerlig AI) - macOS AI 写作助手
• Hillnote) - Markdown 优先的 AI 工作空间
• Perfect Memory AI) - 基于屏幕和会议历史进行个性化的生产力 AI

移动端

• Ollama Android Chat) - Android 上一键使用 Ollama

上述列出的 SwiftChat、Enchanted、Maid、Ollama App、Reins 和 ConfiChat 同样支持移动平台。

代码编辑器与开发

• Cline) - 支持多文件/全仓库编码的 VS Code 扩展
• Continue) - 适用于任何 IDE 的开源 AI 代码助手
• Void) - 开源 AI 代码编辑器，Cursor 替代品
• Copilot for Obsidian) - Obsidian AI 助手
• twinny) - Copilot 和 Copilot Chat 替代品
• gptel Emacs 客户端) - Emacs 的 LLM 客户端
• Ollama Copilot) - 将 Ollama 用作 GitHub Copilot
• Obsidian Local GPT) - Obsidian 本地 AI
• Ellama Emacs 客户端) - Emacs 的 LLM 工具
• orbiton) - 无需配置的文本编辑器，支持 Ollama 制表符补全
• AI ST Completion) - Sublime Text 4 AI 助手
• VT Code) - 基于 Rust 的终端编码智能体，集成 Tree-sitter
• QodeAssist) - Qt Creator 的 AI 编码助手
• AI Toolkit for VS Code) - 微软官方 VS Code 扩展
• Open Interpreter) - 面向计算机的自然语言接口

库与 SDK

• LiteLLM) - 统一 API，覆盖 100+ LLM 提供商
• Semantic Kernel) - 微软 AI 编排 SDK
• LangChain4j) - Java 版 LangChain（示例))）
• LangChainGo) - Go 版 LangChain（示例))）
• Spring AI) - Spring 框架 AI 支持（文档))）
• LangChain) 与 LangChain.js)（示例)）
• Ollama for Ruby) - Ruby LLM 库
• any-llm) - Mozilla 出品的统一 LLM 接口
• OllamaSharp for .NET) - .NET SDK
• LangChainRust) - Rust 版 LangChain（示例))）
• Agents-Flex for Java) - Java 智能体框架（示例))）
• Elixir LangChain) - Elixir 版 LangChain
• Ollama-rs for Rust) - Rust SDK
• LangChain for .NET) - .NET 版 LangChain（示例))）
• chromem-go) - Go 向量数据库，内置 Ollama 嵌入支持（示例))）
• LangChainDart) - Dart 版 LangChain
• LlmTornado) - 统一的 C# 接口，对接多种推理 API
• Ollama4j for Java) - Java SDK
• Ollama for Laravel) - Laravel 集成
• Ollama for Swift) - Swift SDK
• LlamaIndex) 与 LlamaIndexTS) - LLM 应用的数据框架
• Haystack) - AI 流水线框架
• Firebase Genkit) - Google AI 框架
• Ollama-hpp for C++) - C++ SDK
• PromptingTools.jl) - Julia LLM 工具包（示例))）
• Ollama for R - rollama) - R SDK
• Portkey) - AI 网关
• Testcontainers) - 基于容器的测试
• LLPhant) - PHP AI 框架

框架与智能体

• AutoGPT) - 自主 AI 智能体平台
• crewAI) - 多智能体编排框架
• Strands Agents) - AWS 出品的模型驱动智能体构建
• Cheshire Cat) - AI 助手框架
• any-agent) - Mozilla 出品的统一智能体框架接口
• Stakpak) - 开源 DevOps 智能体
• Hexabot) - 对话式 AI 构建器
• Neuro SAN) - 多智能体编排（文档))）

RAG 与知识库

• RAGFlow) - 基于深度文档理解的 RAG 引擎
• R2R) - 开源 RAG 引擎
• MaxKB) - 开箱即用的 RAG 聊天机器人
• Minima) - 本地部署或完全本地化的 RAG
• Chipper) - 集成 Haystack RAG 的 AI 界面
• ARGO) - 在 Mac/Windows/Linux 上运行的 RAG 与深度研究
• Archyve) - 支持 RAG 的文档库
• Casibase) - 集成 RAG 与 SSO 的 AI 知识库
• BrainSoup) - 原生客户端，支持 RAG 与多智能体自动化

机器人与消息

• LangBot) - 多平台消息机器人，集成智能体与 RAG
• AstrBot) - 多平台聊天机器人，支持 RAG 与插件
• Discord-Ollama Chat Bot) - TypeScript 编写的 Discord 机器人
• Ollama Telegram Bot) - Telegram 机器人
• LLM Telegram Bot) - 用于角色扮演的 Telegram 机器人

终端与命令行

• aichat) - 全能 LLM CLI，集成 Shell 助手、RAG 与 AI 工具
• oterm) - Ollama 终端客户端
• gollama) - 基于 Go 的 Ollama 模型管理器
• tlm) - 本地 Shell 副驾驶
• tenere) - LLM 的 TUI 界面
• ParLlama) - Ollama 的 TUI 界面
• llm-ollama) - Datasette 的 LLM CLI) 插件
• ShellOracle) - Shell 命令建议
• LLM-X) - 渐进式 LLM Web 应用
• cmdh) - 自然语言转 Shell 命令
• VT) - 极简多模态 AI 聊天应用

生产力与应用程序

• AppFlowy) - AI 协作工作空间，可自托管的 Notion 替代品
• Screenpipe) - 24/7 屏幕与麦克风录制，支持 AI 搜索
• Vibe) - 转录与分析会议
• Page Assist) - Chrome 扩展，支持 AI 辅助浏览
• NativeMind) - 私有、设备端浏览器 AI 助手
• Ollama Fortress) - Ollama 安全代理
• 1Panel) - 基于 Web 的 Linux 服务器管理
• Writeopia) - 集成 Ollama 的文本编辑器
• QA-Pilot) - GitHub 代码仓库理解
• Raycast extension) - Raycast 中的 Ollama
• Painting Droid) - 集成 AI 的绘画应用
• Serene Pub) - AI 角色扮演应用
• Mayan EDMS) - 集成 Ollama 工作流的文档管理
• TagSpaces) - 文件管理，支持 AI 标签) USD 预算：$0/$3；剩余 $3

可观测性与监控

• Opik) - 调试、评估和监控 LLM 应用
• OpenLIT) - 面向 Ollama 和 GPU 的原生 OpenTelemetry 监控
• Lunary) - 具备分析功能和 PII 脱敏的 LLM 可观测性
• Langfuse) - 开源 LLM 可观测性
• HoneyHive) - 面向 Agent 的 AI 可观测性与评估
• MLflow Tracing) - 开源 LLM 可观测性

数据库与嵌入

• pgai) - 将 PostgreSQL 用作向量数据库（指南))）
• MindsDB) - 将 Ollama 与 200 多个数据平台连接
• chromem-go) - 面向 Go 的可嵌入向量数据库（示例))）
• Kangaroo) - AI 驱动的 SQL 客户端

基础设施与部署

云服务

• Google Cloud)
• Fly.io)
• Koyeb)
• Harbor) - 容器化 LLM 工具包，默认后端为 Ollama

包管理器

• Pacman)
• Homebrew)
• Nix 包)
• Helm Chart)
• Gentoo)
• Flox)
• Guix channel)