25 KiB
Note
本文档由 WeHub 基于上游 README 翻译整理,属于社区翻译,非官方中文文档。
English · 原始项目 · 上游 README
原作者、版权与许可证归属以原始项目及本仓库 LICENSE 文件为准。
Note
我们也在开发 Open Computer,它为 AI Agent 提供完整的计算机环境。
这将把 AnythingLLM 的 Agent 能力提升到新高度,并为 AI Agent 使用带来全新的 UX(用户体验)范式。
⭐ Star 本仓库以获取最新动态!
AnythingLLM:你要找的一站式 AI 应用。
与文档对话、使用 AI Agent、高度可配置、支持多用户,且无需繁琐设置。
|
|
Docs
|
Hosted Instance
👉 AnythingLLM 桌面版(Mac、Windows 和 Linux)!立即下载
与文档对话。用 AI Agent 自动化复杂工作流。高度可配置、支持多用户、久经实战检验——默认本地运行,零门槛上手。
产品概览
AnythingLLM 是一款一站式 AI 应用,让你无需妥协即可构建私有、功能完备的 ChatGPT。连接你喜爱的本地或云端 LLM(大语言模型),导入文档,几分钟内即可开始对话。开箱即用即内置 Agent、多用户支持、向量数据库和文档流水线——无需额外配置。
AnythingLLM 同样支持多用户,你可以按用户控制访问权限与使用体验,同时不损害实例安全与隐私,也不影响你的知识产权。
AnythingLLM 的亮点功能
- Dynamic Model Routing - 根据你定义的规则,自动将对话路由到最适合该会话的提供商与模型。
- Automatic & User Managed Memories - 让 LLM 记住关于你或工作区的重要信息。
- Scheduled Tasks - 按 cron 计划运行周期性任务或提示词,并具备完整的 Agent 能力。
- Intelligent Skill Selection 为你的模型启用无限工具,同时每次查询的 token 用量最高可减少 80%
- No-code AI Agent builder
- MCP-compatibility
- Multi-modal support (both closed and open-source LLMs!)
- Custom AI Agents
- 👤 多用户实例支持与权限管理 仅 Docker 版本
- 🦾 工作区内的 Agent(浏览网页等)
- 💬 可嵌入网站的自定义聊天组件 仅 Docker 版本
- 📖 支持多种文档类型(PDF、TXT、DOCX 等)
- 直观的聊天界面,支持拖放上传与来源引用。
- 可用于任意云端部署,生产就绪。
- 兼容所有主流闭源与开源 LLM 提供商。
- 针对大型文档集内置优化——相比其他聊天界面,成本更低、响应更快。
- 完整的开发者 API,便于自定义集成!
- ……还有更多——几分钟内完成安装,亲自体验吧。
支持的 LLM、嵌入模型、语音模型与向量数据库
Large Language Models (LLMs):
- Any open-source llama.cpp compatible model
- OpenAI
- OpenAI (Generic)
- Azure OpenAI
- AWS Bedrock
- Anthropic
- NVIDIA NIM (chat models)
- Google Gemini Pro
- Ollama (chat models)
- LM Studio (all models)
- LocalAI (all models)
- Together AI (chat models)
- Fireworks AI (chat models)
- Perplexity (chat models)
- OpenRouter (chat models)
- DeepSeek (chat models)
- Mistral
- Groq
- Cohere
- KoboldCPP
- LiteLLM
- Text Generation Web UI
- Apipie
- xAI
- Z.AI (chat models)
- Novita AI (chat models)
- PPIO
- Gitee AI
- Moonshot AI
- Microsoft Foundry Local
- CometAPI (chat models)
- Docker Model Runner
- PrivateModeAI (chat models)
- SambaNova Cloud (chat models)
- Lemonade by AMD
- Minimax
- Cerebras (chat models)
嵌入(Embedder)模型:
- AnythingLLM Native Embedder(默认)
- OpenAI
- Azure OpenAI
- Gemini
- LocalAI (all)
- Ollama (all)
- LM Studio (all)
- Lemonade
- OpenRouter
- LiteLLM
- Cohere
- Voyage AI
- Mistral
- 通用兼容 OpenAI 的嵌入 API
音频转写模型:
TTS(text-to-speech,文本转语音)支持:
- 浏览器原生内置(默认)
- PiperTTSLocal - 在浏览器中运行
- OpenAI TTS
- ElevenLabs
- 任何兼容 OpenAI 的 TTS 服务。
STT(speech-to-text,语音转文本)支持:
- 浏览器原生内置(默认)
向量数据库:
技术概览
本 monorepo 包含六个主要部分:
frontend:基于 ViteJS + React 的前端,可运行它来轻松创建和管理 LLM 可用的全部内容。server:NodeJS Express 服务器,处理所有交互,并负责向量数据库管理与 LLM 交互。collector:NodeJS Express 服务器,负责处理并解析来自 UI 的文档。docker:Docker 说明与构建流程,以及从源码构建的相关信息。embed:Web 嵌入组件. 子模块,用于生成与创建。browser-extension:Chrome 浏览器扩展. 子模块。
🛳 自托管
Mintplex Labs 与社区维护多种部署方法、脚本和模板,供您在本地运行 AnythingLLM。请参阅下表了解如何在您偏好的环境中部署,或如何自动部署。
| Docker | AWS | GCP | Digital Ocean | Render.com |
|---|---|---|---|---|
![]() |
![]() |
| Railway | RepoCloud | Elestio | Northflank |
|---|---|---|---|
![]() |
或在不使用 Docker 的情况下搭建生产环境 AnythingLLM 实例 →
如何配置开发环境
yarn setup填写各应用模块所需的.env文件(在仓库根目录执行)。- 请先填写这些内容再继续。务必填写
server/.env.development,否则将无法正常工作。
- 请先填写这些内容再继续。务必填写
yarn dev:server在本地启动服务器(在仓库根目录执行)。yarn dev:frontend在本地启动前端(在仓库根目录执行)。yarn dev:collector随后运行文档收集器(在仓库根目录执行)。
遥测与隐私
Mintplex Labs Inc 出品的 AnythingLLM 包含遥测功能,用于收集匿名使用信息。
了解更多关于 AnythingLLM 的遥测与隐私
为何收集?
我们使用这些信息来了解 AnythingLLM 的使用方式,以便优先开发新功能与修复缺陷,并提升 AnythingLLM 的性能与稳定性。
如何选择退出
在服务器或 Docker 的 .env 设置中将 DISABLE_TELEMETRY 设为 "true" 即可退出遥测。也可在应用内通过侧边栏 > Privacy 关闭遥测。
具体追踪哪些信息?
我们仅追踪有助于产品与路线图决策的使用信息,具体包括:
-
安装类型(Docker 或 Desktop)
-
文档添加或删除的时间点。不收集文档_本身_的任何信息,仅记录该事件发生。这有助于我们了解使用情况。
-
使用的向量数据库类型。这有助于我们在该服务商更新时优先安排相关改动。
-
使用的 LLM 服务商与模型标签。这有助于我们在该服务商、模型或其组合更新时优先安排相关改动,例如:推理(reasoning)与普通模型、多模态模型等。
-
发送聊天消息的时间点。这是最常规的「事件」,可帮助我们了解各安装实例的日常活跃度。同样,仅发送事件本身——我们不会获知聊天内容或其性质。
您可通过查找所有调用 Telemetry.sendTelemetry 的位置来验证上述说明。此外,这些事件会写入输出日志,因此若已启用,您也可查看实际发送的数据。不会收集 IP 或其他可识别身份的信息。遥测服务提供方为 PostHog —— 一款开源遥测收集服务。
我们非常重视隐私,希望您能理解:我们希望在不用烦人弹窗问卷的情况下了解工具的使用方式,从而打造出真正值得使用的产品。匿名数据_绝不会_与第三方共享。
[在源代码中查看全部遥测事件](https://github.com/search?q=repo%3AMintplex-Labs%2Fanything-llm%20.sendTelemetry(&type=code)
其他出站连接
若关闭遥测,您仍可能看到对以下服务的出站连接:
- 若使用外部工具、LLM、嵌入模型或向量数据库,仍会看到对相应服务商的出站连接。
cdn.anythingllm.com:从我们的镜像 CDN 拉取模型。此项不由遥测追踪,对在 VPN 受限地区用户实际很有帮助。github/githubusercontent.com:会从这些域名下载若干平面文件,用于上下文窗口缓存。
简而言之,关闭遥测后我们不会收集任何数据。但根据您的配置,仍可能出现出站连接,并须遵守相应服务商的服务条款。
👋 参与贡献
- 参与贡献 AnythingLLM - 如何为 AnythingLLM 做贡献。
💖 赞助商
高级赞助商
全部赞助商













































🌟 Contributors
🔗 更多产品
- AnythingLLM Mobile(MIT 许可): 一款移动应用,让你可以在移动设备上使用 AnythingLLM。
- AnythingLLM Browser Extension: 一款浏览器扩展,让你可以在浏览器中使用 AnythingLLM。
- AnythingLLM Embed: 一款小组件(widget),让你可以将 AnythingLLM 嵌入到你的网站中。
Copyright © 2026 Mintplex Labs。
本项目采用 MIT 许可。





