25 KiB
search
| search | ||
|---|---|---|
|
会话
Agents SDK 提供内置会话记忆,用于在多次智能体运行之间自动维护对话历史记录,从而无需在各轮之间手动处理 .to_input_list()。
会话会存储特定会话的对话历史记录,使智能体能够维护上下文,而无需显式的手动记忆管理。这对于构建聊天应用或多轮对话尤其有用,因为你希望智能体记住之前的交互。
当你希望 SDK 为你管理客户端侧记忆时,请使用会话。会话不能在同一次运行中与 conversation_id、previous_response_id 或 auto_previous_response_id 结合使用。如果你希望改用由 OpenAI 服务端管理的延续机制,请选择其中一种机制,而不是在其上叠加会话。
快速开始
from agents import Agent, Runner, SQLiteSession
# Create agent
agent = Agent(
name="Assistant",
instructions="Reply very concisely.",
)
# Create a session instance with a session ID
session = SQLiteSession("conversation_123")
# First turn
result = await Runner.run(
agent,
"What city is the Golden Gate Bridge in?",
session=session
)
print(result.final_output) # "San Francisco"
# Second turn - agent automatically remembers previous context
result = await Runner.run(
agent,
"What state is it in?",
session=session
)
print(result.final_output) # "California"
# Also works with synchronous runner
result = Runner.run_sync(
agent,
"What's the population?",
session=session
)
print(result.final_output) # "Approximately 39 million"
使用同一会话恢复中断的运行
如果某次运行因等待批准而暂停,请使用同一个会话实例(或另一个指向同一后端存储的会话实例)来恢复它,以便恢复后的轮次继续使用同一份已存储的对话历史记录。
result = await Runner.run(agent, "Delete temporary files that are no longer needed.", session=session)
if result.interruptions:
state = result.to_state()
for interruption in result.interruptions:
state.approve(interruption)
result = await Runner.run(agent, state, session=session)
核心会话行为
启用会话记忆后:
- 每次运行之前:运行器会自动检索该会话的对话历史记录,并将其前置到输入项中。
- 每次运行之后:运行期间生成的所有新项(用户输入、助手响应、工具调用等)都会自动存储到会话中。
- 上下文保留:同一会话的每次后续运行都会包含完整的对话历史记录,使智能体能够维护上下文。
这消除了手动调用 .to_input_list() 并在运行之间管理对话状态的需要。
历史记录与新输入的合并控制
当你传入会话时,运行器通常会按如下方式准备模型输入:
- 会话历史记录(从
session.get_items(...)检索) - 新轮次输入
使用 [RunConfig.session_input_callback][agents.run.RunConfig.session_input_callback] 在模型调用之前自定义该合并步骤。回调会接收两个列表:
history:检索到的会话历史记录(已规范化为输入项格式)new_input:当前轮次的新输入项
返回应发送给模型的最终输入项列表。
回调接收的是这两个列表的副本,因此你可以安全地修改它们。返回的列表会控制该轮次的模型输入,但 SDK 仍然只会持久化属于新轮次的项。因此,对旧历史记录重新排序或过滤,并不会导致旧会话项被再次作为新输入保存。
from agents import Agent, RunConfig, Runner, SQLiteSession
def keep_recent_history(history, new_input):
# Keep only the last 10 history items, then append the new turn.
return history[-10:] + new_input
agent = Agent(name="Assistant")
session = SQLiteSession("conversation_123")
result = await Runner.run(
agent,
"Continue from the latest updates only.",
session=session,
run_config=RunConfig(session_input_callback=keep_recent_history),
)
当你需要自定义裁剪、重新排序或选择性纳入历史记录,同时不改变会话存储项的方式时,请使用此功能。如果你需要在模型调用前立即进行更靠后的最终处理步骤,请使用运行智能体指南中的 [call_model_input_filter][agents.run.RunConfig.call_model_input_filter]。
检索历史记录的限制
使用 [SessionSettings][agents.memory.SessionSettings] 控制每次运行前获取多少历史记录。
SessionSettings(limit=None)(默认):检索所有可用的会话项SessionSettings(limit=N):仅检索最近的N个项
你可以通过 [RunConfig.session_settings][agents.run.RunConfig.session_settings] 按运行应用此设置:
from agents import Agent, RunConfig, Runner, SessionSettings, SQLiteSession
agent = Agent(name="Assistant")
session = SQLiteSession("conversation_123")
result = await Runner.run(
agent,
"Summarize our recent discussion.",
session=session,
run_config=RunConfig(session_settings=SessionSettings(limit=50)),
)
如果你的会话实现公开了默认会话设置,RunConfig.session_settings 会为该次运行覆盖任何非 None 的值。这对于长对话很有用:你可以在不改变会话默认行为的情况下限制检索大小。
记忆操作
基本操作
会话支持用于管理对话历史记录的多种操作:
from agents import SQLiteSession
session = SQLiteSession("user_123", "conversations.db")
# Get all items in a session
items = await session.get_items()
# Add new items to a session
new_items = [
{"role": "user", "content": "Hello"},
{"role": "assistant", "content": "Hi there!"}
]
await session.add_items(new_items)
# Remove and return the most recent item
last_item = await session.pop_item()
print(last_item) # {"role": "assistant", "content": "Hi there!"}
# Clear all items from a session
await session.clear_session()
使用 pop_item 进行修正
当你想撤销或修改对话中的最后一项时,pop_item 方法尤其有用:
from agents import Agent, Runner, SQLiteSession
agent = Agent(name="Assistant")
session = SQLiteSession("correction_example")
# Initial conversation
result = await Runner.run(
agent,
"What's 2 + 2?",
session=session
)
print(f"Agent: {result.final_output}")
# User wants to correct their question
assistant_item = await session.pop_item() # Remove agent's response
user_item = await session.pop_item() # Remove user's question
# Ask a corrected question
result = await Runner.run(
agent,
"What's 2 + 3?",
session=session
)
print(f"Agent: {result.final_output}")
内置会话实现
SDK 为不同用例提供了多个会话实现:
内置会话实现的选择
在阅读下方详细示例之前,使用此表选择一个起点。
| 会话类型 | 适用场景 | 备注 |
|---|---|---|
SQLiteSession |
本地开发和简单应用 | 内置、轻量,可基于文件或内存 |
AsyncSQLiteSession |
使用 aiosqlite 的异步 SQLite |
支持异步驱动的扩展后端 |
RedisSession |
跨多个工作进程/服务的共享记忆 | 适合低延迟分布式部署 |
SQLAlchemySession |
使用现有数据库的生产应用 | 适用于 SQLAlchemy 支持的数据库 |
MongoDBSession |
已使用 MongoDB 或需要多进程存储的应用 | 异步 pymongo;通过原子序列计数器保证顺序 |
DaprSession |
带有 Dapr sidecar 的云原生部署 | 支持多种状态存储,以及 TTL 和一致性控制 |
OpenAIConversationsSession |
OpenAI 中由服务端管理的存储 | 基于 OpenAI Conversations API 的历史记录 |
OpenAIResponsesCompactionSession |
带有自动压缩的长对话 | 另一个会话后端的包装器 |
AdvancedSQLiteSession |
SQLite 加分支/分析 | 功能集较重;请参阅专门页面 |
EncryptedSession |
基于另一个会话的加密 + TTL | 包装器;请先选择底层后端 |
一些实现有包含更多详细信息的专门页面;这些页面已在其小节中以内联链接形式给出。
如果你正在为 ChatKit 实现 Python 服务,请使用 chatkit.store.Store 实现来持久化 ChatKit 的线程和项。Agents SDK 会话(如 SQLAlchemySession)会管理 SDK 侧的对话历史记录,但它们不能直接替代 ChatKit 的 store。请参阅 chatkit-python 关于实现 ChatKit 数据存储的指南。
OpenAI Conversations API 会话
通过 OpenAIConversationsSession 使用 OpenAI 的 Conversations API。
from agents import Agent, Runner, OpenAIConversationsSession
# Create agent
agent = Agent(
name="Assistant",
instructions="Reply very concisely.",
)
# Create a new conversation
session = OpenAIConversationsSession()
# Optionally resume a previous conversation by passing a conversation ID
# session = OpenAIConversationsSession(conversation_id="conv_123")
# Start conversation
result = await Runner.run(
agent,
"What city is the Golden Gate Bridge in?",
session=session
)
print(result.final_output) # "San Francisco"
# Continue the conversation
result = await Runner.run(
agent,
"What state is it in?",
session=session
)
print(result.final_output) # "California"
OpenAI Responses 压缩会话
使用 OpenAIResponsesCompactionSession 通过 Responses API(responses.compact)压缩已存储的对话历史记录。它会包装一个底层会话,并可根据 should_trigger_compaction 在每轮之后自动压缩。不要用它包装 OpenAIConversationsSession;这两个功能以不同方式管理历史记录。
典型用法(自动压缩)
from agents import Agent, Runner, SQLiteSession
from agents.memory import OpenAIResponsesCompactionSession
underlying = SQLiteSession("conversation_123")
session = OpenAIResponsesCompactionSession(
session_id="conversation_123",
underlying_session=underlying,
)
agent = Agent(name="Assistant")
result = await Runner.run(agent, "Hello", session=session)
print(result.final_output)
默认情况下,一旦达到候选阈值,压缩会在每轮之后运行。
当你已经使用 Responses API 响应 ID 串联各轮时,compaction_mode="previous_response_id" 效果最好。compaction_mode="input" 则会基于当前会话项重建压缩请求,这在响应链不可用,或你希望以会话内容作为事实来源时很有用。默认的 "auto" 会选择可用的最安全选项。
如果你的智能体使用 ModelSettings(store=False) 运行,Responses API 不会保留最后一个响应以供之后查找。在这种无状态设置中,默认的 "auto" 模式会退回到基于输入的压缩,而不是依赖 previous_response_id。有关完整示例,请参阅 examples/memory/compaction_session_stateless_example.py。
自动压缩对流式传输的阻塞
压缩会清空并重写会话历史记录,因此 SDK 会等待压缩完成后才将该运行视为完成。在流式传输模式下,这意味着如果压缩开销较大,在最后一个输出 token 之后,run.stream_events() 可能仍会保持打开数秒。
如果你希望低延迟流式传输或快速轮次切换,请禁用自动压缩,并在轮次之间(或空闲期间)自行调用 run_compaction()。你可以根据自己的标准决定何时强制压缩。
from agents import Agent, Runner, SQLiteSession
from agents.memory import OpenAIResponsesCompactionSession
underlying = SQLiteSession("conversation_123")
session = OpenAIResponsesCompactionSession(
session_id="conversation_123",
underlying_session=underlying,
# Disable triggering the auto compaction
should_trigger_compaction=lambda _: False,
)
agent = Agent(name="Assistant")
result = await Runner.run(agent, "Hello", session=session)
# Decide when to compact (e.g., on idle, every N turns, or size thresholds).
await session.run_compaction({"force": True})
SQLite 会话
使用 SQLite 的默认轻量级会话实现:
from agents import SQLiteSession
# In-memory database (lost when process ends)
session = SQLiteSession("user_123")
# Persistent file-based database
session = SQLiteSession("user_123", "conversations.db")
# Use the session
result = await Runner.run(
agent,
"Hello",
session=session
)
异步 SQLite 会话
当你希望使用由 aiosqlite 支持的 SQLite 持久化时,请使用 AsyncSQLiteSession。
pip install aiosqlite
from agents import Agent, Runner
from agents.extensions.memory import AsyncSQLiteSession
agent = Agent(name="Assistant")
session = AsyncSQLiteSession("user_123", db_path="conversations.db")
result = await Runner.run(agent, "Hello", session=session)
Redis 会话
使用 RedisSession 在多个工作进程或服务之间共享会话记忆。
pip install openai-agents[redis]
from agents import Agent, Runner
from agents.extensions.memory import RedisSession
agent = Agent(name="Assistant")
session = RedisSession.from_url(
"user_123",
url="redis://localhost:6379/0",
)
result = await Runner.run(agent, "Hello", session=session)
SQLAlchemy 会话
使用任何 SQLAlchemy 支持的数据库实现的生产就绪型 Agents SDK 会话持久化:
from agents.extensions.memory import SQLAlchemySession
# Using database URL
session = SQLAlchemySession.from_url(
"user_123",
url="postgresql+asyncpg://user:pass@localhost/db",
create_tables=True
)
# Using existing engine
from sqlalchemy.ext.asyncio import create_async_engine
engine = create_async_engine("postgresql+asyncpg://user:pass@localhost/db")
session = SQLAlchemySession("user_123", engine=engine, create_tables=True)
请参阅 SQLAlchemy 会话了解详细文档。
Dapr 会话
当你已经运行 Dapr sidecar,或希望在不更改智能体代码的情况下,让会话存储能够在不同状态存储后端之间迁移时,请使用 DaprSession。
pip install openai-agents[dapr]
from agents import Agent, Runner
from agents.extensions.memory import DaprSession
agent = Agent(name="Assistant")
async with DaprSession.from_address(
"user_123",
state_store_name="statestore",
dapr_address="localhost:50001",
) as session:
result = await Runner.run(agent, "Hello", session=session)
print(result.final_output)
备注:
from_address(...)会为你创建并拥有 Dapr 客户端。如果你的应用已经管理了一个客户端,请直接使用dapr_client=...构造DaprSession(...)。- 当底层状态存储支持 TTL 时,传入
ttl=...可让它自动使旧会话数据过期。 - 当你需要更强的写后读保证时,传入
consistency=DAPR_CONSISTENCY_STRONG。 - Dapr Python SDK 还会检查 HTTP sidecar 端点。在本地开发中,启动 Dapr 时除了
dapr_address中使用的 gRPC 端口外,还应使用--dapr-http-port 3500。 - 请参阅
examples/memory/dapr_session_example.py获取完整设置演练,包括本地组件和故障排查。
MongoDB 会话
对于已使用 MongoDB 或需要可水平扩展的多进程会话存储的应用,请使用 MongoDBSession。
pip install openai-agents[mongodb]
from agents import Agent, Runner
from agents.extensions.memory import MongoDBSession
agent = Agent(name="Assistant")
# Create from URI — owns the client and closes it when session.close() is called
session = MongoDBSession.from_uri(
"user-123",
uri="mongodb://localhost:27017",
database="agents",
)
result = await Runner.run(agent, "Hello", session=session)
print(result.final_output)
await session.close()
备注:
from_uri(...)会创建并拥有AsyncMongoClient,并在session.close()时关闭它。如果你的应用已经管理了一个客户端,请直接使用client=...构造MongoDBSession(...);在这种情况下,session.close()不执行任何操作,生命周期由调用方管理。- 通过向
from_uri(...)传入mongodb+srv://user:password@cluster.example.mongodb.netURI,即可连接到 MongoDB Atlas,无需其他更改。 - 会使用两个集合,且二者名称都可通过
sessions_collection=(默认agent_sessions)和messages_collection=(默认agent_messages)配置。首次使用时会自动创建索引。每个消息文档都带有一个单调递增的seq计数器,可在并发写入者和进程之间保持顺序。 - 在首次运行之前,使用
await session.ping()验证连接性。
高级 SQLite 会话
增强型 SQLite 会话,支持对话分支、用量分析和结构化查询:
from agents.extensions.memory import AdvancedSQLiteSession
# Create with advanced features
session = AdvancedSQLiteSession(
session_id="user_123",
db_path="conversations.db",
create_tables=True
)
# Automatic usage tracking
result = await Runner.run(agent, "Hello", session=session)
await session.store_run_usage(result) # Track token usage
# Conversation branching
await session.create_branch_from_turn(2) # Branch from turn 2
请参阅 高级 SQLite 会话了解详细文档。
加密会话
用于任何会话实现的透明加密包装器:
from agents.extensions.memory import EncryptedSession, SQLAlchemySession
# Create underlying session
underlying_session = SQLAlchemySession.from_url(
"user_123",
url="sqlite+aiosqlite:///conversations.db",
create_tables=True
)
# Wrap with encryption and TTL
session = EncryptedSession(
session_id="user_123",
underlying_session=underlying_session,
encryption_key="your-secret-key",
ttl=600 # 10 minutes
)
result = await Runner.run(agent, "Hello", session=session)
请参阅 加密会话了解详细文档。
其他会话类型
还有一些其他内置选项。请参阅 examples/memory/ 以及 extensions/memory/ 下的源代码。
操作模式
会话 ID 命名
使用有意义的会话 ID 来帮助你组织对话:
- 基于用户:
"user_12345" - 基于线程:
"thread_abc123" - 基于上下文:
"support_ticket_456"
记忆持久化
- 使用内存 SQLite(
SQLiteSession("session_id"))处理临时对话 - 使用基于文件的 SQLite(
SQLiteSession("session_id", "path/to/db.sqlite"))处理持久对话 - 当你需要基于
aiosqlite的实现时,使用异步 SQLite(AsyncSQLiteSession("session_id", db_path="...")) - 使用基于 Redis 的会话(
RedisSession.from_url("session_id", url="redis://..."))实现共享的低延迟会话记忆 - 对于使用 SQLAlchemy 支持的现有数据库的生产系统,使用基于 SQLAlchemy 的会话(
SQLAlchemySession("session_id", engine=engine, create_tables=True)) - 对于已使用 MongoDB 或需要多进程、可水平扩展会话存储的应用,使用 MongoDB 会话(
MongoDBSession.from_uri("session_id", uri="mongodb://localhost:27017")) - 对于支持 30+ 数据库后端,并内置遥测、追踪和数据隔离的生产级云原生部署,使用 Dapr 状态存储会话(
DaprSession.from_address("session_id", state_store_name="statestore", dapr_address="localhost:50001")) - 当你希望将历史记录存储在 OpenAI Conversations API 中时,使用 OpenAI 托管存储(
OpenAIConversationsSession()) - 使用加密会话(
EncryptedSession(session_id, underlying_session, encryption_key))为任何会话包装透明加密和基于 TTL 的过期机制 - 对于更高级的用例,可以考虑为其他生产系统(例如 Django)实现自定义会话后端
多个会话
from agents import Agent, Runner, SQLiteSession
agent = Agent(name="Assistant")
# Different sessions maintain separate conversation histories
session_1 = SQLiteSession("user_123", "conversations.db")
session_2 = SQLiteSession("user_456", "conversations.db")
result1 = await Runner.run(
agent,
"Help me with my account",
session=session_1
)
result2 = await Runner.run(
agent,
"What are my charges?",
session=session_2
)
会话共享
# Different agents can share the same session
support_agent = Agent(name="Support")
billing_agent = Agent(name="Billing")
session = SQLiteSession("user_123")
# Both agents will see the same conversation history
result1 = await Runner.run(
support_agent,
"Help me with my account",
session=session
)
result2 = await Runner.run(
billing_agent,
"What are my charges?",
session=session
)
完整示例
下面是展示会话记忆实际效果的完整示例:
import asyncio
from agents import Agent, Runner, SQLiteSession
async def main():
# Create an agent
agent = Agent(
name="Assistant",
instructions="Reply very concisely.",
)
# Create a session instance that will persist across runs
session = SQLiteSession("conversation_123", "conversation_history.db")
print("=== Sessions Example ===")
print("The agent will remember previous messages automatically.\n")
# First turn
print("First turn:")
print("User: What city is the Golden Gate Bridge in?")
result = await Runner.run(
agent,
"What city is the Golden Gate Bridge in?",
session=session
)
print(f"Assistant: {result.final_output}")
print()
# Second turn - the agent will remember the previous conversation
print("Second turn:")
print("User: What state is it in?")
result = await Runner.run(
agent,
"What state is it in?",
session=session
)
print(f"Assistant: {result.final_output}")
print()
# Third turn - continuing the conversation
print("Third turn:")
print("User: What's the population of that state?")
result = await Runner.run(
agent,
"What's the population of that state?",
session=session
)
print(f"Assistant: {result.final_output}")
print()
print("=== Conversation Complete ===")
print("Notice how the agent remembered the context from previous turns!")
print("Sessions automatically handles conversation history.")
if __name__ == "__main__":
asyncio.run(main())
自定义会话实现
你可以创建一个遵循 [Session][agents.memory.session.Session] 协议的类来实现自己的会话记忆:
from agents.memory.session import SessionABC
from agents.items import TResponseInputItem
from typing import List
class MyCustomSession(SessionABC):
"""Custom session implementation following the Session protocol."""
def __init__(self, session_id: str):
self.session_id = session_id
# Your initialization here
async def get_items(self, limit: int | None = None) -> List[TResponseInputItem]:
"""Retrieve conversation history for this session."""
# Your implementation here
pass
async def add_items(self, items: List[TResponseInputItem]) -> None:
"""Store new items for this session."""
# Your implementation here
pass
async def pop_item(self) -> TResponseInputItem | None:
"""Remove and return the most recent item from this session."""
# Your implementation here
pass
async def clear_session(self) -> None:
"""Clear all items for this session."""
# Your implementation here
pass
# Use your custom session
agent = Agent(name="Assistant")
result = await Runner.run(
agent,
"Hello",
session=MyCustomSession("my_session")
)
社区会话实现
社区已开发出其他会话实现:
| 包 | 描述 |
|---|---|
| openai-django-sessions | 基于 Django ORM 的会话,适用于任何 Django 支持的数据库(PostgreSQL、MySQL、SQLite 等) |
如果你构建了一个会话实现,欢迎提交文档 PR,将它添加到这里!
API 参考
有关详细 API 文档,请参阅:
- [
Session][agents.memory.session.Session] - 协议接口 - [
OpenAIConversationsSession][agents.memory.OpenAIConversationsSession] - OpenAI Conversations API 实现 - [
OpenAIResponsesCompactionSession][agents.memory.openai_responses_compaction_session.OpenAIResponsesCompactionSession] - Responses API 压缩包装器 - [
SQLiteSession][agents.memory.sqlite_session.SQLiteSession] - 基础 SQLite 实现 - [
AsyncSQLiteSession][agents.extensions.memory.async_sqlite_session.AsyncSQLiteSession] - 基于aiosqlite的异步 SQLite 实现 - [
RedisSession][agents.extensions.memory.redis_session.RedisSession] - 基于 Redis 的会话实现 - [
SQLAlchemySession][agents.extensions.memory.sqlalchemy_session.SQLAlchemySession] - 基于 SQLAlchemy 的实现 - [
MongoDBSession][agents.extensions.memory.mongodb_session.MongoDBSession] - 基于 MongoDB 的会话实现 - [
DaprSession][agents.extensions.memory.dapr_session.DaprSession] - Dapr 状态存储实现 - [
AdvancedSQLiteSession][agents.extensions.memory.advanced_sqlite_session.AdvancedSQLiteSession] - 支持分支和分析的增强型 SQLite - [
EncryptedSession][agents.extensions.memory.encrypt_session.EncryptedSession] - 用于任何会话的加密包装器