CHAPTER 01 / WRITINGFIELD NOTE 38
RAG 需要一个说不知道的出口
检索到文字不等于找到答案;缺少证据时,界面应该允许系统停下来。
向下阅读
RAG 常被画成一条笔直的线:提问、检索、生成、回答。真正难处理的,是检索结果看起来相关,却不足以回答问题的那一刻。
相似不是支持
用户问「新版合同何时生效」,检索结果可能返回旧合同的日期,以及新版合同的一段简介。这些片段都和问题相似,却没有任何一段支持一个确定日期。如果模型把两段拼起来,回答会很流畅,也会很危险。
因此,检索之后需要一道独立判断:来源是否包含问题所需的事实?版本是否匹配?引用是否真的对应结论?这些问题不能靠给回答加一句「可能」来解决。
把缺口显示出来
比起一句笼统的「资料不足」,更有帮助的是指出缺的是什么:没有新版生效日期、只找到旧版条款、当前文档没有发布日期。用户可以据此补充资料,或决定去找负责人确认。
这种界面并不把失败藏起来。它将可回答的部分与尚未验证的部分分开,让用户知道下一步该做什么。
引用是一种可检查的承诺
引用按钮不应只是装饰。点开它,应能回到具体文档和对应片段;如果文档更新或撤回,回答也应提示依据可能过期。证据链断了,就不能继续维持原来的确定口吻。
能说「我不知道,因为缺少这份证据」的系统,往往比总能给出完整句子的系统更值得信任。