> [!NOTE] > 本文档由 WeHub 基于上游 README 翻译整理，属于社区翻译，非官方中文文档。 > [English](./README.en.md) · [原始项目](https://github.com/mlflow/mlflow) · [上游 README](https://github.com/mlflow/mlflow/blob/HEAD/README.md) > 原作者、版权与许可证归属以原始项目及本仓库 LICENSE 文件为准。

面向智能体、LLM 与模型的开源 AI 工程平台

MLflow 是规模最大的开源**面向智能体、LLM 和 ML 模型的 AI 工程平台**。MLflow 使各种规模的团队能够[调试](https://mlflow.org/llm-tracing), [评估](https://mlflow.org/llm-evaluation), [监控](https://mlflow.org/ai-monitoring), 并[优化](https://mlflow.org/prompt-optimization) 生产级 AI 应用，同时控制成本并管理对模型和数据的访问。凭借每月超过 **6000 万次下载**，每天有数千家组织依赖 MLflow 充满信心地将 AI 交付到生产环境。 MLflow 面向智能体和 LLM 应用的全面功能集包括生产级[可观测性](https://mlflow.org/docs/latest/genai/tracing), [评估](https://mlflow.org/docs/latest/genai/eval-monitor), [提示词管理](https://mlflow.org/docs/latest/genai/prompt-registry), [提示词优化](https://mlflow.org/prompt-optimization) 以及用于管理成本和模型访问的 [AI 网关](https://mlflow.org/docs/latest/genai/governance/ai-gateway)。了解更多请参阅 [面向 LLM 与智能体的 MLflow](https://mlflow.org/docs/latest/genai).

[![Python SDK](https://img.shields.io/pypi/v/mlflow)](https://pypi.org/project/mlflow/) [![PyPI Downloads](https://img.shields.io/pypi/dm/mlflow)](https://pepy.tech/projects/mlflow) [![License](https://img.shields.io/github/license/mlflow/mlflow)](https://github.com/mlflow/mlflow/blob/master/LICENSE.txt)

[![Ask DeepWiki](https://deepwiki.com/badge.svg)](https://deepwiki.com/mlflow/mlflow)

官网 · 试用演示 · 文档 · 新闻 · 活动

## 三步即可上手几分钟内从零搭建完整 LLMOps 技术栈。无需复杂配置或大规模代码改动。[立即上手 →](https://mlflow.org/docs/latest/genai/tracing/quickstart/) > **最快上手 — 使用 CLI 设置追踪（tracing）** > > ```bash > uvx mlflow@latest agent setup > ``` > > 一条命令即可安装 MLflow 技能，并启动你选择的编程智能体，为应用添加追踪。想自己动手接入？请按照以下三个步骤操作。 **1. 启动 MLflow Server** ```bash uvx mlflow server ``` **2. 启用日志记录** ```python import mlflow mlflow.set_tracking_uri("http://localhost:5000") mlflow.openai.autolog() ``` **3. 运行你的代码** ```python from openai import OpenAI client = OpenAI() client.responses.create( model="gpt-5.4-mini", input="Hello!", ) ``` 在 `http://localhost:5000` 的 MLflow UI 中探索追踪和指标。 ## LLM 与智能体 MLflow 提供构建、调试、评估和部署生产级 LLM 应用与 AI 智能体所需的一切。支持 Python、TypeScript/JavaScript、Java 及任何其他编程语言。MLflow 还与 [OpenTelemetry](https://opentelemetry.io/) 和 MCP 原生集成。

Observability 捕获 LLM 应用和智能体的完整追踪，以深入洞察行为。基于 OpenTelemetry 构建，支持任何 LLM 提供商和智能体框架。监控生产质量、成本与安全性。入门指南 → 试用演示 →	Evaluation 运行系统化评估，随时间跟踪质量指标，在回归进入生产环境之前及时发现。可从 50 多种内置指标和 LLM 评判器中选择，或自定义指标。入门指南 → 试用演示 →
Prompts & Optimization 对提示词进行版本管理、测试和部署，并完整追踪血缘关系。自动优化提示词，采用前沿算法提升性能。入门指南 → 试用演示 →	AI Gateway 面向所有 LLM 提供商的统一 API 网关。通过兼容 OpenAI 的接口路由请求、管理速率限制、处理故障转移并控制成本，内置凭据管理、防护栏（guardrails）以及用于 A/B 测试的流量分流。入门指南 →

## 模型训练对于机器学习和深度学习模型开发，MLflow 提供全套工具来管理 ML 生命周期： - [**实验跟踪（Experiment Tracking）**](https://mlflow.org/docs/latest/ml/tracking/) — 跨实验跟踪模型、参数、指标和评估结果 - [**模型评估（Model Evaluation）**](https://mlflow.org/docs/latest/ml/evaluation/) — 与实验跟踪集成的自动化评估工具 - [**模型注册表（Model Registry）**](https://mlflow.org/docs/latest/ml/model-registry/) — 协作管理 ML 模型的完整生命周期 - [**部署（Deployment）**](https://mlflow.org/docs/latest/ml/deployment/) — 将模型部署到 Docker、Kubernetes、Azure ML、AWS SageMaker 等平台，支持批处理和实时评分了解更多请参阅 [面向模型训练的 MLflow](https://mlflow.org/docs/latest/ml). ## 集成 MLflow 支持所有智能体（agent）框架、大语言模型（LLM）提供商、工具和编程语言。我们为 60 多个框架提供一行代码即可启用的自动追踪（tracing）。请参阅[完整集成列表](https://mlflow.org/docs/latest/genai/tracing/integrations/). ### OpenTelemetry

_{OpenTelemetry}

### 智能体框架（Python）

_LangChain	_LangGraph	_{OpenAI Agent}	_DSPy	_PydanticAI	_{Google ADK}
_{Microsoft Agent}	_CrewAI	_LlamaIndex	_AutoGen	_Strands	_{LiveKit Agents}
_Agno	_{Bedrock AgentCore}	_Smolagents	_{Semantic Kernel}	_DeepAgent	_AG2
_Haystack	_Koog	_txtai	_Pipecat	_Watsonx

### 智能体框架（TypeScript）

_LangChain

_LangGraph

_{Vercel AI SDK}

_Mastra

_VoltAgent

### 智能体框架（Java）

_{Spring AI}

_{Quarkus LangChain4j}

### 模型提供商

_OpenAI	_Anthropic	_Databricks	_Gemini	_{Amazon Bedrock}	_LiteLLM
_Mistral	_{xAI / Grok}	_Ollama	_Groq	_DeepSeek	_Qwen
_{Moonshot AI}	_Cohere	_BytePlus	_{Novita AI}	_FireworksAI	_{Together AI}

### 网关

_Databricks	_{LiteLLM Proxy}	_{Vercel AI Gateway}	_OpenRouter	_Portkey
_Helicone	_{Kong AI Gateway}	_{PydanticAI Gateway}	_TrueFoundry

### 工具与无代码（No-Code）

_Instructor	_{Claude Code}	_Opencode	_Langfuse	_{Arize / Phoenix}	_Goose
_Langflow

## 托管 MLflow MLflow 可用于多种环境，包括本地环境、本地部署（on-premises）集群、云平台以及托管服务。作为一款开源平台，MLflow **厂商中立（vendor-neutral）**——无论你是在构建 AI 智能体、LLM 应用还是 ML 模型，都能使用 MLflow 的核心能力。

_Databricks

_{Amazon SageMaker}

_{Azure ML}

_Nebius

_Self-Hosted

## 💭 支持 - 如需 MLflow 使用方面的帮助或提问（例如「如何做 X？」），请访问[文档](https://mlflow.org/docs/latest). - 在文档中，你可以向我们的 AI 聊天机器人提问。点击右下角的 **"Ask AI"** 按钮。 - 参加[线上活动](https://lu.ma/mlflow?k=c)，例如 Office Hours 和聚会（meetup）。 - 如需报告 bug、提交文档问题或提出功能请求，请[在 GitHub 上提交 issue](https://github.com/mlflow/mlflow/issues/new/choose). - 如需接收版本发布公告并参与其他讨论，请订阅我们的邮件列表（mlflow-users@googlegroups.com），或在 [Slack](https://mlflow.org/slack). 上加入我们。 ## 🤝 贡献我们诚挚欢迎为 MLflow 做出贡献！ - 提交 [bug 报告](https://github.com/mlflow/mlflow/issues/new?template=bug_report_template.yaml) 和 [功能请求](https://github.com/mlflow/mlflow/issues/new?template=feature_request_template.yaml) - 参与 [good-first-issues](https://github.com/mlflow/mlflow/issues?q=is%3Aissue+is%3Aopen+label%3A%22good+first+issue%22) 和 [help-wanted](https://github.com/mlflow/mlflow/issues?q=is%3Aissue+is%3Aopen+label%3A%22help+wanted%22) - 撰写关于 MLflow 的文章并分享你的使用经验请参阅我们的[贡献指南](CONTRIBUTING.md)，了解更多关于为 MLflow 做出贡献的信息。 ## ⭐️ Star 历史

## ✏️ 引用如果你在研究中使用 MLflow，请通过 [GitHub 仓库页面](https://github.com/mlflow/mlflow), 顶部的 "Cite this repository" 按钮进行引用，该按钮会提供包括 APA 和 BibTeX 在内的引用格式。 ## 👥 核心成员 MLflow 目前由以下核心成员维护，并得到了数百位才华横溢的社区成员的重要贡献。 - [Ben Wilson](https://github.com/BenWilson2) - [Corey Zumar](https://github.com/dbczumar) - [Daniel Lok](https://github.com/daniellok-db) - [Gabriel Fu](https://github.com/gabrielfu) - [Harutaka Kawamura](https://github.com/harupy) - [Humair Khan](https://github.com/HumairAK) - [Joel Robin P](https://github.com/joelrobin18) - [Matthew Prahl](https://github.com/mprahl) - [Pat Sukprasert](https://github.com/PattaraS) - [Serena Ruan](https://github.com/serena-ruan) - [Tomu Hirata](https://github.com/TomeHirata) - [Weichen Xu](https://github.com/WeichenXu123) - [Yuki Watanabe](https://github.com/B-Step62)

Observability 捕获 LLM 应用和智能体的完整追踪，以深入洞察行为。基于 OpenTelemetry 构建，支持任何 LLM 提供商和智能体框架。监控生产质量、成本与安全性。入门指南 → 试用演示 →	Evaluation 运行系统化评估，随时间跟踪质量指标，在回归进入生产环境之前及时发现。可从 50 多种内置指标和 LLM 评判器中选择，或自定义指标。入门指南 → 试用演示 →
Prompts & Optimization 对提示词进行版本管理、测试和部署，并完整追踪血缘关系。自动优化提示词，采用前沿算法提升性能。入门指南 → 试用演示 →	AI Gateway 面向所有 LLM 提供商的统一 API 网关。通过兼容 OpenAI 的接口路由请求、管理速率限制、处理故障转移并控制成本，内置凭据管理、防护栏（guardrails）以及用于 A/B 测试的流量分流。入门指南 →