可易

部署可从崩溃恢复的长期运行智能体

可易团队阅读约 3 分钟

在 Foundry 部署长期运行的托管智能体,让进程在检查点后崩溃,再跳过已完成阶段继续跑。含本地 curl、azd 部署与清理。

#部署可从崩溃恢复的长期运行智能体

在本文中,你部署一个长期运行的托管智能体。它使用 Responses 协议,以及可恢复的后台响应(resilient background response)功能。你运行一条已存储的后台响应,故意让智能体进程崩溃,然后看着它在重启后从最后一次检查点(checkpoint)继续。

智能体运行三个模拟的流式阶段:分析(analyze)、生成(generate)和精炼(refine)。每个完成的阶段是一条已做检查点的输出项,因此一次恢复的运行最多重复一个阶段。

前提条件

一个可以访问 Microsoft Foundry 的 Azure 订阅。

Python 3.13。

Azure Developer CLI(azd),并安装 Foundry 智能体扩展(azd extension install azure.ai.agents)。要使用 --long-running 调用标志和 invocations 生命周期命令,版本需为 azd-ext-azure-ai-agents_1.0.0-beta.16 或更高。

本地崩溃恢复步骤使用 curl。已部署的智能体用 azd 调用,认证由它处理。

取得示例

在一个空目录里,从其 azure.yaml 清单初始化可恢复流式智能体:

azd auth login
azd ai agent init -t https://github.com/microsoft-foundry/foundry-samples/blob/main/samples/python/hosted-agents/bring-your-own/responses/resilient-streaming/azure.yaml

该命令下载示例源码,采用它的 azure.yaml,创建一个 azd 环境,并把它连接到你选择的 Foundry 项目。

示例在创建宿主时选择启用恢复能力:

# src/resilient-streaming/main.py
options = ResponsesServerOptions(resilient_background=True)
app = ResponsesAgentServerHost(options=options)

resilient_background 默认为 False。不设置它时,崩溃的后台响应会被标成 failed,而不会被恢复。

在本地运行

在本地运行时,可恢复状态存储使用文件,因此你的机器走同一条恢复代码路径。本地崩溃恢复演练用 curl 驱动智能体,所以每次本地运行都使用 azd ai agent run --no-client。它会安装 Python 依赖,注入当前 azd 环境,并在 http://localhost:8088 启动智能体,而不启动 Agent Inspector。

在本地测试崩溃恢复

这次练习请使用 Linux、WSL2 或容器,以便进程退出时操作系统释放文件锁。

设置 SIMULATE_CRASH_AFTER_STAGE,让示例在为第一阶段做完检查点后崩溃,然后启动智能体:

SIMULATE_CRASH_AFTER_STAGE=0 azd ai agent run --no-client

恢复需要一条已存储的后台响应(store: true 且 background: true)。在第二个终端里,用 curl 内联发送请求:

curl -sS -X POST http://localhost:8088/responses \
  -H "Content-Type: application/json" \
  -d '{"input": "renewable energy supply chains", "store": true, "background": true}'

智能体为分析阶段做检查点,然后退出。从第一个终端重启它:

azd ai agent run --no-client

框架以 context.is_recovery == True 重新调用处理程序。处理程序恢复 context.persisted_response,跳过已做检查点的分析阶段,并完成生成和精炼阶段。

部署到 Foundry

准备项目并部署智能体。提示选择位置时,选一个支持托管智能体的区域。

azd up

azd up 会打印 Responses 端点和一个演练场链接。

调用已部署的智能体

用 --long-running 创建一条已存储的后台响应,并用 --no-wait 在平台分配到标识后立即返回:

azd ai agent invoke --long-running --no-wait "renewable energy supply chains"

--long-running 发送 store=true 和 background=true,因此平台在没有客户端流量时仍保持响应运行。azd ai agent invoke 解析已部署的端点,替你完成认证,并把返回的响应标识保存为当前调用。

用保存的标识检查响应,或从头重放其输出:

azd ai agent invocations show
azd ai agent invocations follow

传入 --id <response-id> 可以指定某一条响应。

清理

azd down

PRIMARY_SOURCE: https://learn.microsoft.com/en-us/azure/foundry/agents/how-to/deploy-resilient-agent

  • #崩溃恢复
  • #检查点
  • #Foundry
  • #后台响应
  • 落地方法

    托管你的智能体

  • 落地方法

    用 AgentCore 可观测性监控本地与多云 AI 智能体