wehub/openai--openai-agents-python
1
0
Fork 0
Code Issues Pull Requests Actions 3 Deployments Models Agent Notes Packages Projects Releases Wiki Activity
Files
4ed4e9ff994089be8905dabc1a3494ca8f3eb737
openai--openai-agents-python/docs/zh/models/index.md
T
wehub-resource-sync 4ed4e9ff99 chore: import upstream snapshot with attribution
2026-07-13 12:39:17 +08:00

39 KiB
Raw Blame History

search
search
exclude
true

模型

Agents SDK 原生支持两种类型的OpenAI模型：

  • 推荐：[OpenAIResponsesModel][agents.models.openai_responses.OpenAIResponsesModel]，它使用新的 Responses API 调用OpenAI API。
  • [OpenAIChatCompletionsModel][agents.models.openai_chatcompletions.OpenAIChatCompletionsModel]，它使用 Chat Completions API 调用OpenAI API。

模型配置方案选择

从最符合你配置需求的简单方案开始：

如果你想要…… 推荐方案 更多信息
仅使用OpenAI模型 使用默认OpenAI提供方和 Responses 模型路径 OpenAI模型
通过 WebSocket 传输使用OpenAI Responses API 保持使用 Responses 模型路径并启用 WebSocket 传输 Responses WebSocket 传输
使用OpenAI托管的子智能体 使用实验性的托管式多智能体模型 托管式多智能体
使用一个非OpenAI提供方 从内置提供方集成点开始 非OpenAI模型
在不同智能体间混用模型或提供方 按运行或按智能体选择提供方，并检查功能差异 在一个工作流中混用模型和跨提供方混用模型
调整高级OpenAI Responses 请求设置 在OpenAI Responses 路径上使用 ModelSettings 高级OpenAI Responses 设置
使用第三方适配器进行非OpenAI或混合提供方路由 比较受支持的测试版适配器，并验证你计划上线的提供方路径 第三方适配器

OpenAI模型

对于大多数仅使用OpenAI的应用，推荐使用字符串模型名称和默认OpenAI提供方，并继续使用 Responses 模型路径。

初始化 Agent 时如果没有指定模型，将使用默认模型。目前默认模型是 gpt-5.4-mini，并配置 reasoning.effort="none" 和 verbosity="low"，适用于低延迟智能体工作流。如果你拥有访问权限，我们建议将智能体设置为 gpt-5.6-sol 以获得更高质量，同时继续显式设置 model_settings。

如果要切换到 gpt-5.6-sol 等其他模型，可以通过两种方式配置智能体。

默认模型

首先，如果想让所有未设置自定义模型的智能体始终使用某个特定模型，请在运行智能体之前设置 OPENAI_DEFAULT_MODEL 环境变量。

export OPENAI_DEFAULT_MODEL=gpt-5.6-sol
python3 my_awesome_agent.py

其次，可以通过 RunConfig 为一次运行设置默认模型。如果没有为智能体设置模型，则将使用此次运行的模型。

from agents import Agent, RunConfig, Runner

agent = Agent(
    name="Assistant",
    instructions="You're a helpful agent.",
)

result = await Runner.run(
    agent,
    "Hello",
    run_config=RunConfig(model="gpt-5.6-sol"),
)

GPT-5 模型

以这种方式使用 gpt-5.6-sol 等任何 GPT-5 模型时，SDK 会应用默认的 ModelSettings，其中设置了适合大多数用例的最佳选项。要调整默认模型的推理强度，请传入自己的 ModelSettings：

from openai.types.shared import Reasoning
from agents import Agent, ModelSettings

my_agent = Agent(
    name="My Agent",
    instructions="You're a helpful agent.",
    # If OPENAI_DEFAULT_MODEL=gpt-5.6-sol is set, passing only model_settings works.
    # It's also fine to pass a GPT-5 model name explicitly:
    model="gpt-5.6-sol",
    model_settings=ModelSettings(reasoning=Reasoning(effort="high"), verbosity="low")
)

为了降低延迟，建议在 GPT-5 模型中使用 reasoning.effort="none"。

GPT-5.6 还通过现有的 reasoning 设置支持推理模式、持久化推理上下文和 "max" 强度级别。这些控制项可在 Responses API 路径上使用：

from openai.types.shared import Reasoning
from agents import Agent, ModelSettings

agent = Agent(
    name="Deep research agent",
    model="gpt-5.6-sol",
    model_settings=ModelSettings(
        reasoning=Reasoning(
            mode="pro",
            effort="max",
            context="all_turns",
        ),
    ),
)

reasoning.mode 和 reasoning.context 是 Responses 独有的设置。Chat Completions 仅使用 reasoning.effort，支持的强度级别取决于模型和 API 接口。请使用 Responses API 设置 GPT-5.6 的 "max" 强度。Chat Completions 适配器会忽略模式和上下文并发出警告；在OpenAI提供方上设置 strict_feature_validation=True 可将该警告转为错误。

使用 context="all_turns" 时，请通过 previous_response_id、服务端对话或重放之前的推理项来保留对话。对于无状态的 store=False 调用，请在响应中包含 reasoning.encrypted_content，并在下一次请求中重放这些推理项。

ComputerTool 模型选择

如果智能体包含 [ComputerTool][agents.tool.ComputerTool]，实际 Responses 请求上的有效模型将决定 SDK 发送哪种计算机工具载荷。显式的 gpt-5.5 请求使用正式发布的内置 computer 工具，而显式的 computer-use-preview 请求继续使用旧版 computer_use_preview 载荷。

由提示词管理的调用是主要例外。如果提示词模板控制模型，且 SDK 在请求中省略 model，SDK 会默认使用兼容预览版的计算机载荷，从而避免猜测提示词固定的是哪个模型。要在该流程中继续使用正式发布路径，可以在请求中显式设置 model="gpt-5.5"，或通过 ModelSettings(tool_choice="computer") 或 ModelSettings(tool_choice="computer_use") 强制使用正式发布版选择器。

注册 [ComputerTool][agents.tool.ComputerTool] 后，tool_choice="computer"、"computer_use" 和 "computer_use_preview" 会被规范化为与有效请求模型匹配的内置选择器。如果未注册 ComputerTool，这些字符串仍会像普通函数名称一样工作。

兼容预览版的请求必须预先序列化 environment 和显示尺寸，因此使用 [ComputerProvider][agents.tool.ComputerProvider] 工厂、由提示词管理的流程应传入具体的 Computer 或 AsyncComputer 实例，或者在发送请求前强制使用正式发布版选择器。有关完整迁移详情，请参阅工具。

非 GPT-5 模型

如果传入非 GPT-5 模型名称且未提供自定义 model_settings，SDK 将恢复为与任何模型兼容的通用 ModelSettings。

Responses 独有的工具搜索功能

以下工具功能仅受OpenAI Responses 模型支持：

  • [ToolSearchTool][agents.tool.ToolSearchTool]
  • [tool_namespace()][agents.tool.tool_namespace]
  • @function_tool(defer_loading=True) 和其他延迟加载的 Responses 工具接口

Chat Completions 模型和非 Responses 后端会拒绝这些功能。使用延迟加载工具时，请将 ToolSearchTool() 添加到智能体，并让模型通过 auto 或 required 工具选择来加载工具，而不是强制使用单独的命名空间名称或仅限延迟加载的函数名称。有关配置详情和当前限制，请参阅工具。

Responses WebSocket 传输

默认情况下，OpenAI Responses API 请求使用 HTTP 传输。使用由OpenAI支持的模型时，可以选择启用 WebSocket 传输。

基础配置

from agents import set_default_openai_responses_transport

set_default_openai_responses_transport("websocket")

这会影响由默认OpenAI提供方解析的OpenAI Responses 模型，包括 "gpt-5.6-sol" 等字符串模型名称。

SDK 将模型名称解析为模型实例时，会进行传输方式选择。如果传入具体的 [Model][agents.models.interface.Model] 对象，其传输方式已经固定：[OpenAIResponsesWSModel][agents.models.openai_responses.OpenAIResponsesWSModel] 使用 WebSocket，[OpenAIResponsesModel][agents.models.openai_responses.OpenAIResponsesModel] 使用 HTTP，而 [OpenAIChatCompletionsModel][agents.models.openai_chatcompletions.OpenAIChatCompletionsModel] 继续使用 Chat Completions。如果传入 RunConfig(model_provider=...)，则由该提供方而非全局默认提供方控制传输方式选择。

提供方级或运行级配置

也可以按提供方或按运行配置 WebSocket 传输：

from agents import Agent, OpenAIProvider, RunConfig, Runner

provider = OpenAIProvider(
    use_responses_websocket=True,
    # Optional; if omitted, OPENAI_WEBSOCKET_BASE_URL is used when set.
    websocket_base_url="wss://your-proxy.example/v1",
    # Optional low-level websocket keepalive settings.
    responses_websocket_options={"ping_interval": 20.0, "ping_timeout": 60.0},
)

agent = Agent(name="Assistant")
result = await Runner.run(
    agent,
    "Hello",
    run_config=RunConfig(model_provider=provider),
)

由OpenAI支持的提供方还接受可选的智能体注册配置。这是一个高级选项，适用于OpenAI配置需要提供方级注册元数据（例如运行框架 ID）的情况。

from agents import (
    Agent,
    OpenAIAgentRegistrationConfig,
    OpenAIProvider,
    RunConfig,
    Runner,
)

provider = OpenAIProvider(
    use_responses_websocket=True,
    agent_registration=OpenAIAgentRegistrationConfig(harness_id="your-harness-id"),
)

agent = Agent(name="Assistant")
result = await Runner.run(
    agent,
    "Hello",
    run_config=RunConfig(model_provider=provider),
)

使用 MultiProvider 的高级路由

如果需要基于前缀的模型路由，例如在一次运行中混用 openai/... 和 any-llm/... 模型名称，请使用 [MultiProvider][agents.MultiProvider]，并在其中设置 openai_use_responses_websocket=True。

MultiProvider 保留两个历史默认行为：

  • openai/... 被视为OpenAI提供方的别名，因此 openai/gpt-4.1 会作为模型 gpt-4.1 进行路由。
  • 未知前缀会引发 UserError，而不是直接透传。

当OpenAI提供方指向需要字面命名空间模型 ID 的OpenAI兼容端点时，请显式启用透传行为。在启用 WebSocket 的配置中，也请在 MultiProvider 上保留 openai_use_responses_websocket=True：

from agents import Agent, MultiProvider, RunConfig, Runner

provider = MultiProvider(
    openai_base_url="https://openrouter.ai/api/v1",
    openai_api_key="...",
    openai_use_responses_websocket=True,
    openai_prefix_mode="model_id",
    unknown_prefix_mode="model_id",
)

agent = Agent(
    name="Assistant",
    instructions="Be concise.",
    model="openai/gpt-4.1",
)

result = await Runner.run(
    agent,
    "Hello",
    run_config=RunConfig(model_provider=provider),
)

后端需要字面的 openai/... 字符串时，请使用 openai_prefix_mode="model_id"。后端需要其他命名空间模型 ID（例如 openrouter/openai/gpt-4.1-mini）时，请使用 unknown_prefix_mode="model_id"。这些选项也适用于 WebSocket 传输以外的 MultiProvider；此示例继续启用 WebSocket，因为它属于本节所述的传输配置。相同选项也可用于 [responses_websocket_session()][agents.responses_websocket_session]。

如果通过 MultiProvider 进行路由时需要相同的提供方级注册元数据，请传入 openai_agent_registration=OpenAIAgentRegistrationConfig(...)，它将被转发给底层OpenAI提供方。

如果使用自定义OpenAI兼容端点或代理，WebSocket 传输还要求提供兼容的 WebSocket /responses 端点。在这些配置中，可能需要显式设置 websocket_base_url。

注意事项

  • 这是通过 WebSocket 传输使用的 Responses API，而不是 Realtime API。它不适用于 Chat Completions 或非OpenAI提供方，除非它们支持 Responses WebSocket /responses 端点。
  • 如果环境中尚未安装 websockets 软件包，请安装它。
  • 启用 WebSocket 传输后，可以直接使用 [Runner.run_streamed()][agents.run.Runner.run_streamed]。对于希望跨轮次以及嵌套的智能体即工具调用复用同一 WebSocket 连接的多轮工作流，建议使用 [responses_websocket_session()][agents.responses_websocket_session] 辅助函数。请参阅运行智能体指南和 examples/basic/stream_ws.py。
  • 对于长时间推理轮次或存在延迟突增的网络，请使用 responses_websocket_options 自定义 WebSocket 保活行为。增大 ping_timeout 可容忍延迟的 pong 帧，或者设置 ping_timeout=None，以在保持 ping 启用的同时禁用心跳超时。如果可靠性比 WebSocket 延迟更重要，请优先使用 HTTP/SSE 传输。
  • 默认情况下，SDK 会禁用传入消息大小限制（max_size=None）。对于位于代理后方或内存受限容器中的长时间运行智能体进程，请设置 responses_websocket_options={"max_size": 8 * 1024 * 1024}，以限制每条消息的内存用量。

托管式多智能体（实验性）

OpenAI Responses API 托管式多智能体测试版允许 GPT-5.6 根模型创建和协调服务端托管的子智能体。Agents SDK 可以继续使用常规 Runner：托管式编排在服务上进行，而开发者定义的工具调用则在你的应用中执行。

此集成具有实验性，并使用 Responses WebSocket 传输，以便通过 response.inject 将本地函数输出返回给活跃的托管智能体。它要求使用 openai[realtime]>=2.45.0，其中包括公开 client.beta.responses.connect 的测试版构建。该接口和测试版项目架构可能会在正式发布前发生变化。

模型配置

从实验性模块导入模型，并将其分配给 SDK Agent：

from agents import Agent
from agents.extensions.experimental.hosted_multi_agent import OpenAIHostedMultiAgentModel

agent = Agent(
    name="Research coordinator",
    instructions="Delegate independent research tasks, then synthesize the findings.",
    model=OpenAIHostedMultiAgentModel(model="gpt-5.6-sol", config={"max_concurrent_subagents": 3}),
)

构造 OpenAIHostedMultiAgentModel 会启用 multi_agent.enabled，并发送 OpenAI-Beta: responses_multi_agent=v1 WebSocket 标头。除非提供 openai_client，否则该模型使用默认OpenAI客户端。如果省略 max_concurrent_subagents，则使用服务默认值。

本地工具调用

所有托管智能体共享为请求配置的模型和工具。Responses API 决定由哪个托管智能体调用函数。常规 SDK Runner 在本地执行函数，并将具有相同调用 ID 的 function_call_output 注入活跃的 WebSocket 响应，使服务能够恢复原始托管调用方。函数执行仍会经过 Runner 的常规安全防护措施、钩子和失败转换。不支持 SDK 工具审批中断：任何 needs_approval 设置不为 False 的工具调用都会在请求发送前被拒绝。

当工具需要感知调用方的日志记录或授权时，请使用 get_hosted_agent_metadata()：

from typing import Any

from agents import function_tool
from agents.extensions.experimental.hosted_multi_agent import get_hosted_agent_metadata
from agents.tool_context import ToolContext

@function_tool
def lookup_document(ctx: ToolContext[Any], section: str) -> str:
    metadata = get_hosted_agent_metadata(ctx)
    caller = metadata.agent_name if metadata else "unknown"
    print(f"tool caller: {caller}; call ID: {ctx.tool_call_id}")
    return f"Contents for {section}"

托管智能体名称是观测性元数据，而不是本地路由机制。请使用 SDK 提供的调用 ID 路由输出。对于会产生副作用的工具，请将该调用 ID 用作幂等键，并在工具执行之前或期间通过应用代码实施任何必要的授权；请勿将 needs_approval 与此模型结合使用。工具参数和输出会跨越 Responses API 边界。

输出与流式传输行为

只有归属于 /root 且阶段为 final_answer 的消息才会成为普通最终消息。实验性适配器会从高级 RunResult 中过滤子智能体消息和托管式编排记录；SDK 绝不会将这些记录作为本地函数执行。

原始流式传输会继续公开测试版 Responses 事件，包括托管输出项和 response.inject.created 确认。函数调用就绪时，适配器会将一个活跃的提供方响应划分为 SDK 可见的逻辑模型轮次，然后在 Runner 生成输出后恢复同一个提供方响应。请将 get_hosted_agent_metadata() 与原始托管项或 ToolContext 一起使用，以检查归属信息。

与 SDK 编排的关系

托管式多智能体独立于 SDK 任务转移和 agents-as-tools：

  • 托管式多智能体在OpenAI服务上创建子智能体。你的应用不会创建或调度这些子智能体。
  • SDK 任务转移会更改当前活跃的本地 SDK Agent。使用此实验性模型时，任务转移会被拒绝，因为每个托管智能体都会收到相同的任务转移工具，从而造成所有权冲突。
  • Agents-as-tools 仍然可用，但使用它们会产生嵌套的客户端和服务端编排。请审慎评估额外的延迟、成本和工具暴露。

当前限制

实验性模型会拒绝 reasoning.summary、max_tool_calls 以及调用方提供的 multi_agent 或 betas 覆盖值。该测试版不支持 Responses /compact 端点，但可以使用显式的 context_management.compact_threshold，因为服务会自动独立压缩每个托管智能体的上下文。

一个 OpenAIHostedMultiAgentModel 实例最多同时拥有一个活跃的托管响应。如果在等待本地函数输出时放弃运行，请调用 await model.close() 以释放其 WebSocket。目前不支持在其他进程或事件循环中恢复进行中的托管响应。

有关底层 Responses API 测试版行为，请参阅 OpenAI多智能体指南。有关非流式传输和流式传输 SDK 用法，请参阅 examples/agent_patterns/hosted_multi_agent_beta.py。

非OpenAI模型

如果需要非OpenAI提供方，请从 SDK 的内置提供方集成点开始。在许多配置中，无需添加第三方适配器即可满足需求。每种模式的代码示例位于 examples/model_providers。

非OpenAI提供方的集成方式

方式 适用场景 作用域
[set_default_openai_client][agents.set_default_openai_client] 一个OpenAI兼容端点应成为大多数或所有智能体的默认端点 全局默认
[ModelProvider][agents.models.interface.ModelProvider] 一个自定义提供方应适用于单次运行 按运行
[Agent.model][agents.agent.Agent.model] 不同智能体需要不同的提供方或具体模型对象 按智能体
第三方适配器 需要由适配器管理的提供方覆盖或内置路径无法提供的路由 请参阅第三方适配器

可以通过以下内置路径集成其他 LLM 提供方：

  1. [set_default_openai_client][agents.set_default_openai_client] 适用于希望在全局范围使用 AsyncOpenAI 实例作为 LLM 客户端的情况。此方式适用于 LLM 提供方具有OpenAI兼容 API 端点，并且你可以设置 base_url 和 api_key 的情况。可配置的代码示例请参阅 examples/model_providers/custom_example_global.py。
  2. [ModelProvider][agents.models.interface.ModelProvider] 作用于 Runner.run 层级。借助它，你可以指定“为本次运行中的所有智能体使用自定义模型提供方”。可配置的代码示例请参阅 examples/model_providers/custom_example_provider.py。
  3. [Agent.model][agents.agent.Agent.model] 允许在特定 Agent 实例上指定模型。这样可以为不同智能体混合搭配不同的提供方。可配置的代码示例请参阅 examples/model_providers/custom_example_agent.py。

如果没有来自 platform.openai.com 的 API 密钥，建议通过 set_tracing_disabled() 禁用追踪，或者设置其他追踪进程。

from agents import Agent, AsyncOpenAI, OpenAIChatCompletionsModel, set_tracing_disabled

set_tracing_disabled(disabled=True)

client = AsyncOpenAI(api_key="Api_Key", base_url="Base URL of Provider")
model = OpenAIChatCompletionsModel(model="Model_Name", openai_client=client)

agent= Agent(name="Helping Agent", instructions="You are a Helping Agent", model=model)

!!! note

在这些代码示例中，我们使用 Chat Completions API/模型，因为许多 LLM 提供方仍不支持 Responses API。如果你的 LLM 提供方支持它，建议使用 Responses。

在一个工作流中混用模型

在单个工作流中，你可能希望为每个智能体使用不同的模型。例如，可以使用更小、更快的模型进行分流，同时使用更大、能力更强的模型处理复杂任务。配置 [Agent][agents.Agent] 时，可以通过以下任一方式选择特定模型：

  1. 传入模型名称。
  2. 传入任意模型名称以及能够将该名称映射到 Model 实例的 [ModelProvider][agents.models.interface.ModelProvider]。
  3. 直接提供 [Model][agents.models.interface.Model] 实现。

!!! note

虽然 SDK 同时支持 [`OpenAIResponsesModel`][agents.models.openai_responses.OpenAIResponsesModel] 和 [`OpenAIChatCompletionsModel`][agents.models.openai_chatcompletions.OpenAIChatCompletionsModel] 两种形式，但建议每个工作流只使用一种模型形式，因为两种形式支持的功能和工具集合不同。如果工作流需要混用模型形式，请确保正在使用的所有功能都受两者支持。

from agents import Agent, Runner, AsyncOpenAI, OpenAIChatCompletionsModel
import asyncio

spanish_agent = Agent(
    name="Spanish agent",
    instructions="You only speak Spanish.",
    model="gpt-5-mini", # (1)!
)

english_agent = Agent(
    name="English agent",
    instructions="You only speak English",
    model=OpenAIChatCompletionsModel( # (2)!
        model="gpt-5-nano",
        openai_client=AsyncOpenAI()
    ),
)

triage_agent = Agent(
    name="Triage agent",
    instructions="Handoff to the appropriate agent based on the language of the request.",
    handoffs=[spanish_agent, english_agent],
    model="gpt-5.6-sol",
)

async def main():
    result = await Runner.run(triage_agent, input="Hola, ¿cómo estás?")
    print(result.final_output)
  1. 直接设置OpenAI模型的名称。
  2. 提供 [Model][agents.models.interface.Model] 实现。

如果要进一步配置智能体使用的模型，可以传入 [ModelSettings][agents.models.interface.ModelSettings]，其中提供 temperature 等可选模型配置参数。

from agents import Agent, ModelSettings

english_agent = Agent(
    name="English agent",
    instructions="You only speak English",
    model="gpt-4.1",
    model_settings=ModelSettings(temperature=0.1),
)

高级OpenAI Responses 设置

使用OpenAI Responses 路径且需要更多控制时，请从 ModelSettings 开始。

常用高级 ModelSettings 选项

使用OpenAI Responses API 时，多个请求字段已经有对应的直接 ModelSettings 字段，因此无需通过 extra_args 传递它们。

  • parallel_tool_calls：允许或禁止在同一轮中进行多次工具调用。
  • truncation：设置为 "auto"，可让 Responses API 在上下文即将溢出时丢弃最早的对话项，而不是使请求失败。
  • store：控制生成的响应是否存储在服务端以供后续检索。这对于依赖响应 ID 的后续工作流以及在 store=False 时可能需要回退到本地输入的会话压缩流程很重要。
  • context_management：配置服务端上下文处理，例如使用 compact_threshold 进行 Responses 压缩。
  • prompt_cache_retention：为较早的模型系列配置延长保留时间，例如 设置为 "24h"。
  • prompt_cache_options：选择隐式或显式提示词缓存；对于 GPT-5.6，还可配置 "30m" 缓存 TTL。
  • response_include：请求更丰富的响应载荷，例如 web_search_call.action.sources、file_search_call.results 或 reasoning.encrypted_content。
  • top_logprobs：请求输出文本的热门候选 token 对数概率。SDK 还会自动添加 message.output_text.logprobs。
  • retry：选择启用由 Runner 管理的模型调用重试设置。请参阅 Runner 管理的重试。
from agents import Agent, ModelSettings

research_agent = Agent(
    name="Research agent",
    model="gpt-5.6-sol",
    model_settings=ModelSettings(
        parallel_tool_calls=False,
        truncation="auto",
        store=True,
        context_management=[{"type": "compaction", "compact_threshold": 200000}],
        prompt_cache_options={"mode": "explicit", "ttl": "30m"},
        response_include=["web_search_call.action.sources"],
        top_logprobs=5,
    ),
)

使用显式提示词缓存时，请在可复用前缀结束的内容部分添加断点。同一个 ModelSettings.prompt_cache_options 字段会透传到 Responses 和 Chat Completions 请求，而 Chat Completions 转换器会保留文本、图像、音频和文件内容部分的断点。

from agents import Runner

result = await Runner.run(
    research_agent,
    [
        {
            "role": "user",
            "content": [
                {
                    "type": "input_text",
                    "text": "Reusable background material...",
                    "prompt_cache_breakpoint": {"mode": "explicit"},
                },
                {
                    "type": "input_text",
                    "text": "Analyze the latest question.",
                },
            ],
        }
    ],
)

prompt_cache_retention 仍可用于采用旧版 保留控制的较早模型系列。请勿同时使用直接 ModelSettings 字段和 extra_args 中的同名键。

设置 store=False 时，Responses API 不会保留该响应以供后续服务端检索。这对于无状态或零数据保留类型的流程很有用，但也意味着原本会复用响应 ID 的功能必须改为依赖本地管理的状态。例如，当最后一个响应未存储时，[OpenAIResponsesCompactionSession][agents.memory.openai_responses_compaction_session.OpenAIResponsesCompactionSession] 会将其默认的 "auto" 压缩路径切换为基于输入的压缩。请参阅会话指南。

服务端压缩不同于 [OpenAIResponsesCompactionSession][agents.memory.openai_responses_compaction_session.OpenAIResponsesCompactionSession]。context_management=[{"type": "compaction", "compact_threshold": ...}] 会随每个 Responses API 请求一起发送；当渲染后的上下文超过阈值时，API 可在响应中生成压缩项。OpenAIResponsesCompactionSession 则会在轮次之间调用独立的 responses.compact 端点，并重写本地会话历史记录。

extra_args 传递

当需要 SDK 尚未直接在顶层公开的提供方特定或较新的请求字段时，请使用 extra_args。

此外，使用OpenAI的 Responses API 时，还有一些其他可选参数，例如 user、service_tier 等。如果它们在顶层不可用，也可以通过 extra_args 传递。请勿同时通过直接 ModelSettings 字段设置相同的请求字段。

from agents import Agent, ModelSettings

english_agent = Agent(
    name="English agent",
    instructions="You only speak English",
    model="gpt-4.1",
    model_settings=ModelSettings(
        temperature=0.1,
        extra_args={"service_tier": "flex", "user": "user_12345"},
    ),
)

Runner 管理的重试

重试仅在运行时生效，并且需要主动启用。除非设置 ModelSettings(retry=...) 且重试策略决定重试，否则 SDK 不会重试常规模型请求。

from agents import Agent, ModelRetrySettings, ModelSettings, retry_policies

agent = Agent(
    name="Assistant",
    model="gpt-5.6-sol",
    model_settings=ModelSettings(
        retry=ModelRetrySettings(
            max_retries=4,
            backoff={
                "initial_delay": 0.5,
                "max_delay": 5.0,
                "multiplier": 2.0,
                "jitter": True,
            },
            policy=retry_policies.any(
                retry_policies.provider_suggested(),
                retry_policies.retry_after(),
                retry_policies.network_error(),
                retry_policies.http_status([408, 409, 429, 500, 502, 503, 504]),
            ),
        )
    ),
)

ModelRetrySettings 包含三个字段：

字段 类型 说明
max_retries `int None`
backoff `ModelRetryBackoffSettings dict
policy `RetryPolicy None`

重试策略会接收一个 [RetryPolicyContext][agents.retry.RetryPolicyContext]，其中包含：

  • attempt 和 max_retries，便于根据尝试次数做出决策。
  • stream，便于区分流式传输与非流式传输行为。
  • error，用于检查原始错误。
  • normalized 事实，例如 status_code、retry_after、error_code、is_network_error、is_timeout 和 is_abort。
  • provider_advice，用于底层模型适配器可以提供重试建议的情况。

策略可以返回：

  • True / False，用于简单的重试决策。
  • [RetryDecision][agents.retry.RetryDecision]，用于覆盖延迟或附加诊断原因。

SDK 在 retry_policies 上导出了现成的辅助函数：

辅助函数 行为
retry_policies.never() 始终不重试。
retry_policies.provider_suggested() 在提供方提供重试建议时遵循该建议。
retry_policies.network_error() 匹配暂时性传输失败和超时失败。
retry_policies.http_status([...]) 匹配指定的 HTTP 状态码。
retry_policies.retry_after() 仅在存在 Retry-After 提示时重试，并使用该延迟。此辅助函数将 Retry-After 值视为显式策略延迟，因此 backoff.max_delay 不会限制它。
retry_policies.any(...) 任意嵌套策略决定重试时进行重试。
retry_policies.all(...) 仅在所有嵌套策略都决定重试时进行重试。

组合策略时，provider_suggested() 是最安全的首选基础组件，因为当提供方能够区分相关情况时，它会保留提供方的否决意见和重放安全性批准。

安全边界

某些失败永远不会自动重试：

  • 中止错误。
  • 提供方建议将重放标记为不安全的请求。
  • 已开始产生输出且重放会导致不安全的流式传输运行。

使用 previous_response_id 或 conversation_id 的有状态后续请求也会受到更保守的处理。对于这些请求，network_error() 或 http_status([500]) 等非提供方判断条件本身并不足够。重试策略应包含提供方对重放安全性的批准，通常通过 retry_policies.provider_suggested() 实现。

Runner 与智能体的合并行为

运行级和智能体级 ModelSettings 之间会对 retry 进行深度合并：

  • 智能体可以仅覆盖 retry.max_retries，同时继承 Runner 的 policy。
  • 智能体可以仅覆盖 retry.backoff 的一部分，同时保留 Runner 中同级的其他退避字段。
  • policy 仅在运行时生效，因此序列化后的 ModelSettings 会保留 max_retries 和 backoff，但省略回调本身。

更完整的代码示例请参阅 examples/basic/retry.py 和由适配器支持的重试示例。

非OpenAI提供方故障排查

追踪客户端错误 401

如果遇到与追踪有关的错误，这是因为追踪数据会上传到OpenAI服务，而你没有OpenAI API 密钥。可以通过以下三种方式解决：

  1. 完全禁用追踪：[set_tracing_disabled(True)][agents.set_tracing_disabled]。
  2. 为追踪设置OpenAI密钥：[set_tracing_export_api_key(...)][agents.set_tracing_export_api_key]。此 API 密钥仅用于上传追踪数据，并且必须来自 platform.openai.com。
  3. 使用非OpenAI追踪进程。请参阅追踪文档。

Responses API 支持

SDK 默认使用 Responses API，但许多其他 LLM 提供方仍不支持它。因此，你可能会看到 404 或类似问题。可以通过以下两种方式解决：

  1. 调用 [set_default_openai_api("chat_completions")][agents.set_default_openai_api]。如果通过环境变量设置 OPENAI_API_KEY 和 OPENAI_BASE_URL，此方法即可生效。
  2. 使用 [OpenAIChatCompletionsModel][agents.models.openai_chatcompletions.OpenAIChatCompletionsModel]。代码示例请参阅此处。

Chat Completions 兼容性选项

通过 Chat Completions 进行路由时，SDK 会静默丢弃 Chat Completions 无法发送的 Responses 独有字段，从而保持兼容性，例如 previous_response_id、conversation_id、提示词或并非纯文本的工具输出。如果希望在开发期间遇到这些不匹配时快速失败，请在OpenAI提供方上启用严格功能验证：

from agents import Agent, OpenAIProvider, RunConfig, Runner

provider = OpenAIProvider(
    use_responses=False,
    strict_feature_validation=True,
)

agent = Agent(name="Assistant")
result = await Runner.run(
    agent,
    "Hello",
    run_config=RunConfig(model_provider=provider),
)

如果使用 [MultiProvider][agents.MultiProvider]，请改为传入 openai_strict_feature_validation=True。

一些OpenAI兼容的 Chat Completions 提供方会以分块形式流式传输工具调用增量，而这些分块不够可靠，无法供 SDK 进行增量处理。在这种情况下，请启用流式传输工具调用缓冲，让 SDK 仅在提供方流结束后生成工具调用：

from agents import OpenAIProvider

provider = OpenAIProvider(
    use_responses=False,
    buffer_streamed_tool_calls=True,
)

对于 [MultiProvider][agents.MultiProvider]，请使用 openai_buffer_streamed_tool_calls=True。

structured outputs 支持

一些模型提供方不支持 structured outputs。这有时会导致类似如下的错误：


BadRequestError: Error code: 400 - {'error': {'message': "'response_format.type' : value is not one of the allowed values ['text','json_object']", 'type': 'invalid_request_error'}}

这是某些模型提供方的局限：它们支持 JSON 输出，但不允许指定输出所使用的 json_schema。我们正在修复此问题，但建议依赖支持 JSON Schema 输出的提供方，否则应用经常会因格式错误的 JSON 而中断。

跨提供方混用模型

你需要了解不同模型提供方之间的功能差异，否则可能遇到错误。例如，OpenAI支持 structured outputs、多模态输入以及托管式文件检索和网络检索，但许多其他提供方并不支持这些功能。请注意以下限制：

  • 不要向无法理解 tools 的提供方发送不受支持的 tools
  • 调用纯文本模型前，请过滤掉多模态输入
  • 请注意，不支持结构化 JSON 输出的提供方偶尔会生成无效 JSON。

第三方适配器

仅当 SDK 的内置提供方集成点无法满足需求时，才应使用第三方适配器。如果只通过此 SDK 使用OpenAI模型，请优先使用内置 [OpenAIResponsesModel][agents.models.openai_responses.OpenAIResponsesModel] 路径，而不是 Any-LLM 或 LiteLLM。第三方适配器适用于需要将OpenAI模型与非OpenAI提供方结合使用，或需要由适配器管理的提供方覆盖或内置路径无法提供的路由。适配器会在 SDK 和上游模型提供方之间增加一层兼容层，因此功能支持和请求语义可能因提供方而异。目前，SDK 以尽力支持的测试版适配器集成形式提供 Any-LLM 和 LiteLLM。

Any-LLM

Any-LLM 支持以尽力支持的测试版形式提供，适用于需要由 Any-LLM 管理的提供方覆盖或路由的情况。

根据上游提供方路径，Any-LLM 可能使用 Responses API、Chat Completions 兼容 API 或提供方特定的兼容层。

如果需要 Any-LLM，请安装 openai-agents[any-llm]，然后从 examples/model_providers/any_llm_auto.py 或 examples/model_providers/any_llm_provider.py 开始。可以将 any-llm/... 模型名称与 [MultiProvider][agents.MultiProvider] 一起使用、直接实例化 AnyLLMModel，或在运行作用域使用 AnyLLMProvider。如果需要显式固定模型接口，请在构造 AnyLLMModel 时传入 api="responses" 或 api="chat_completions"。

Any-LLM 仍然是第三方适配器层，因此提供方依赖项和能力缺口由上游 Any-LLM 而非 SDK 定义。当上游提供方返回用量指标时，这些指标会自动传播，但流式传输 Chat Completions 后端可能需要设置 ModelSettings(include_usage=True) 才会生成用量数据块。如果依赖 structured outputs、工具调用、用量报告或 Responses 特定行为，请验证计划部署的具体提供方后端。

LiteLLM

LiteLLM 支持以尽力支持的测试版形式提供，适用于需要 LiteLLM 特定提供方覆盖或路由的情况。

如果需要 LiteLLM，请安装 openai-agents[litellm]，然后从 examples/model_providers/litellm_auto.py 或 examples/model_providers/litellm_provider.py 开始。可以使用 litellm/... 模型名称，或直接实例化 [LitellmModel][agents.extensions.models.litellm_model.LitellmModel]。

一些由 LiteLLM 支持的提供方默认不会填充 SDK 用量指标。如果需要用量报告，请传入 ModelSettings(include_usage=True)；如果依赖 structured outputs、工具调用、用量报告或适配器特定的路由行为，请验证计划部署的具体提供方后端。

Reference in New Issue View Git Blame Copy Permalink