返回Agent 开发
PATH 01/LESSON 11/19 分钟

评估、观测与恢复

让失败可以被发现、分类、重现并恢复。

课程全目录 · 选择章节

本课学习目标

  • • 记录 — 保存运行轨迹
  • • 分类 — 识别失败类型
  • • 评估 — 与基准比较
  • • 恢复 — 从稳定节点继续

完成路径

阅读概念与案例 → 完成动手任务 → 勾选实践检查 → 回答检查点 → 保存完成记录。练习由你自行检查,不会假装成自动代码评分。

01 / 核心概念

在线日志告诉你系统发生了什么,离线评估告诉你一次修改是否让整体质量变好。两者不能互相替代。

恢复能力来自保存稳定的状态边界:输入、输出、工具结果与失败原因都可以成为重新开始的位置。

02 / 心智模型

01

记录

保存运行轨迹

02

分类

识别失败类型

03

评估

与基准比较

04

恢复

从稳定节点继续

03 / 代码骨架

TYPESCRIPT / CONCEPT
const checkpoint = await saveState(run);
try {
  return await executeStep(checkpoint);
} catch (error) {
  await recordFailure(checkpoint, classify(error));
  return { status: "recoverable", checkpointId: checkpoint.id };
}

这是解释结构的代码骨架,外部函数与数据需要在实际项目中实现。

04 / 贯穿案例

放进真实情境里看

更新检索策略后,演示问题回答得更漂亮,但旧版文档误引增加了。没有固定样本和运行轨迹,很难判断修改到底改善了什么。

  1. 01

    收集可重放案例

    保留用户问题、目标版本、预期来源与允许的拒答情况。至少加入正常、歧义和缺资料三类样本。

  2. 02

    比较同一组指标

    对修改前后同时统计引用正确率、拒答质量、耗时和成本;不要只看模型回答是否“顺口”。

  3. 03

    从稳定节点恢复

    给关键步骤保存输入、工具结果和状态版本。失败后从可信的检查点重试,并避免重复执行已发生的副作用。

05 / 动手做

用自己的产物检验理解

写 6 个评估问题:2 个正常、2 个旧版本干扰、2 个应拒答。为每个问题标出正确来源或拒答理由。

完成时检查

  • 有修改前后的同一组样本
  • 既测答案,也测引用和拒答
  • 重试不会重复发送或写入

自动保存在当前浏览器,不会同步到账户。

继续到代码练习

06 / 检查点

修改检索策略后,怎样判断整体质量是否提升?

延伸阅读 · 原始资料