PATH 01/LESSON 11/19 分钟
评估、观测与恢复
让失败可以被发现、分类、重现并恢复。
课程全目录 · 选择章节
本课学习目标
- • 记录 — 保存运行轨迹
- • 分类 — 识别失败类型
- • 评估 — 与基准比较
- • 恢复 — 从稳定节点继续
完成路径
阅读概念与案例 → 完成动手任务 → 勾选实践检查 → 回答检查点 → 保存完成记录。练习由你自行检查,不会假装成自动代码评分。
01 / 核心概念
在线日志告诉你系统发生了什么,离线评估告诉你一次修改是否让整体质量变好。两者不能互相替代。
恢复能力来自保存稳定的状态边界:输入、输出、工具结果与失败原因都可以成为重新开始的位置。
02 / 心智模型
记录
保存运行轨迹
分类
识别失败类型
评估
与基准比较
恢复
从稳定节点继续
03 / 代码骨架
TYPESCRIPT / CONCEPT
const checkpoint = await saveState(run);
try {
return await executeStep(checkpoint);
} catch (error) {
await recordFailure(checkpoint, classify(error));
return { status: "recoverable", checkpointId: checkpoint.id };
}这是解释结构的代码骨架,外部函数与数据需要在实际项目中实现。
04 / 贯穿案例
放进真实情境里看
更新检索策略后,演示问题回答得更漂亮,但旧版文档误引增加了。没有固定样本和运行轨迹,很难判断修改到底改善了什么。
- 01
收集可重放案例
保留用户问题、目标版本、预期来源与允许的拒答情况。至少加入正常、歧义和缺资料三类样本。
- 02
比较同一组指标
对修改前后同时统计引用正确率、拒答质量、耗时和成本;不要只看模型回答是否“顺口”。
- 03
从稳定节点恢复
给关键步骤保存输入、工具结果和状态版本。失败后从可信的检查点重试,并避免重复执行已发生的副作用。
05 / 动手做
用自己的产物检验理解
写 6 个评估问题:2 个正常、2 个旧版本干扰、2 个应拒答。为每个问题标出正确来源或拒答理由。
完成时检查
- 有修改前后的同一组样本
- 既测答案,也测引用和拒答
- 重试不会重复发送或写入
自动保存在当前浏览器,不会同步到账户。
06 / 检查点