32 KiB
Note
本文档由 WeHub 基于上游 README 翻译整理,属于社区翻译,非官方中文文档。
English · 原始项目 · 上游 README
原作者、版权与许可证归属以原始项目及本仓库 LICENSE 文件为准。
面向智能体、LLM 与模型的开源 AI 工程平台
MLflow 是规模最大的开源面向智能体、LLM 和 ML 模型的 AI 工程平台。MLflow 使各种规模的团队能够调试, 评估, 监控, 并优化 生产级 AI 应用,同时 控制成本并管理对模型和数据的访问。凭借每月超过 6000 万次下载, 每天有数千家组织依赖 MLflow 充满信心地将 AI 交付到生产环境。
MLflow 面向智能体和 LLM 应用的全面功能集包括生产级可观测性, 评估, 提示词管理, 提示词优化 以及用于管理成本和模型访问的 AI 网关。 了解更多请参阅 面向 LLM 与智能体的 MLflow.
三步即可上手
几分钟内从零搭建完整 LLMOps 技术栈。无需复杂配置或大规模代码改动。立即上手 →
最快上手 — 使用 CLI 设置追踪(tracing)
uvx mlflow@latest agent setup一条命令即可安装 MLflow 技能,并启动你选择的编程智能体,为应用添加追踪。想自己动手接入?请按照以下三个步骤操作。
1. 启动 MLflow Server
uvx mlflow server
2. 启用日志记录
import mlflow
mlflow.set_tracking_uri("http://localhost:5000")
mlflow.openai.autolog()
3. 运行你的代码
from openai import OpenAI
client = OpenAI()
client.responses.create(
model="gpt-5.4-mini",
input="Hello!",
)
在 http://localhost:5000 的 MLflow UI 中探索追踪和指标。
LLM 与智能体
MLflow 提供构建、调试、评估和部署生产级 LLM 应用与 AI 智能体所需的一切。支持 Python、TypeScript/JavaScript、Java 及任何其他编程语言。MLflow 还与 OpenTelemetry 和 MCP 原生集成。
Observability 捕获 LLM 应用和智能体的完整追踪,以深入洞察行为。基于 OpenTelemetry 构建,支持任何 LLM 提供商和智能体框架。监控生产质量、成本与安全性。 入门指南 → 试用演示 → |
|
|
AI Gateway 面向所有 LLM 提供商的统一 API 网关。通过兼容 OpenAI 的接口路由请求、管理速率限制、处理故障转移并控制成本,内置凭据管理、防护栏(guardrails)以及用于 A/B 测试的流量分流。 入门指南 → |
模型训练
对于机器学习和深度学习模型开发,MLflow 提供全套工具来管理 ML 生命周期:
- 实验跟踪(Experiment Tracking) — 跨实验跟踪模型、参数、指标和评估结果
- 模型评估(Model Evaluation) — 与实验跟踪集成的自动化评估工具
- 模型注册表(Model Registry) — 协作管理 ML 模型的完整生命周期
- 部署(Deployment) — 将模型部署到 Docker、Kubernetes、Azure ML、AWS SageMaker 等平台,支持批处理和实时评分
了解更多请参阅 面向模型训练的 MLflow.
集成
MLflow 支持所有智能体(agent)框架、大语言模型(LLM)提供商、工具和编程语言。我们为 60 多个框架提供一行代码即可启用的自动追踪(tracing)。请参阅完整集成列表.
OpenTelemetry
OpenTelemetry |
智能体框架(Python)
智能体框架(TypeScript)
LangChain |
LangGraph |
Vercel AI SDK |
Mastra |
VoltAgent |
智能体框架(Java)
Spring AI |
Quarkus LangChain4j |
模型提供商
OpenAI |
Anthropic |
Databricks |
Gemini |
Amazon Bedrock |
LiteLLM |
Mistral |
xAI / Grok |
Ollama |
Groq |
DeepSeek |
Qwen |
Moonshot AI |
Cohere |
BytePlus |
Novita AI |
FireworksAI |
Together AI |
网关
Databricks |
LiteLLM Proxy |
Vercel AI Gateway |
OpenRouter |
Portkey |
Helicone |
Kong AI Gateway |
PydanticAI Gateway |
TrueFoundry |
工具与无代码(No-Code)
Instructor |
Claude Code |
Opencode |
Langfuse |
Arize / Phoenix |
Goose |
Langflow |
托管 MLflow
MLflow 可用于多种环境,包括本地环境、本地部署(on-premises)集群、云平台以及托管服务。作为一款开源平台,MLflow 厂商中立(vendor-neutral)——无论你是在构建 AI 智能体、LLM 应用还是 ML 模型,都能使用 MLflow 的核心能力。
Databricks |
Amazon SageMaker |
Azure ML |
Nebius |
Self-Hosted |
💭 支持
- 如需 MLflow 使用方面的帮助或提问(例如「如何做 X?」),请访问文档.
- 在文档中,你可以向我们的 AI 聊天机器人提问。点击右下角的 "Ask AI" 按钮。
- 参加线上活动,例如 Office Hours 和聚会(meetup)。
- 如需报告 bug、提交文档问题或提出功能请求,请在 GitHub 上提交 issue.
- 如需接收版本发布公告并参与其他讨论,请订阅我们的邮件列表(mlflow-users@googlegroups.com),或在 Slack. 上加入我们。
🤝 贡献
我们诚挚欢迎为 MLflow 做出贡献!
- 提交 bug 报告 和 功能请求
- 参与 good-first-issues 和 help-wanted
- 撰写关于 MLflow 的文章并分享你的使用经验
请参阅我们的贡献指南,了解更多关于为 MLflow 做出贡献的信息。
⭐️ Star 历史
✏️ 引用
如果你在研究中使用 MLflow,请通过 GitHub 仓库页面, 顶部的 "Cite this repository" 按钮进行引用,该按钮会提供包括 APA 和 BibTeX 在内的引用格式。
👥 核心成员
MLflow 目前由以下核心成员维护,并得到了数百位才华横溢的社区成员的重要贡献。



