检索漏召回:检查结果之外的相关证据
检索漏召回检查关注的是:相关证据为什么没有出现在结果中。先建立一个能独立核查相关性的有限资料集合,再把返回结果与集合实际包含的内容比较。只审阅结果,可以发现无关命中,却发现不了搜索根本没有展示的材料,也无法知道遗漏是否影响重要研究主张。
固定资料集合,先定义相关性
明确问题、发行人或资产、期间和文档边界,保存查询及筛选条件。看排名之前,先规定什么叫相关。一个文件对公司很重要,不代表它与当前问题相关,因此需要按任务判断,而不是只凭来源质量高低决定。范围变化应有记录,否则前后两轮的指标并不在衡量同一件事。
scikit-learn评估文档用真正例和假负例定义召回率。对应这里的编辑检查,就是返回的相关项目数除以核查集合内全部相关项目数。这是有限集合的测量,不是宣称开放互联网里所有相关资料都已经被发现,也不代表整个AI产品的普遍准确率。
假设案例:已知集合中的遗漏
假设整理某虚构发行人收入合同的二十段原始披露,独立阅读确定十段与取消权有关。搜索返回八段,其中六段相关、两段无关,另有四段相关材料没有返回。在这个固定集合内,召回率是六除以十,即百分之六十。
| 漏掉的材料 | 候选原因 | 怎样检验原因 |
|---|---|---|
| 合同附注 | 查询只用了标题中的术语 | 用有依据的同义表达重查 |
| 较早的修订文件 | 日期筛选排除了它 | 按声明的历史窗口重跑 |
| 扫描附录 | 没有提取出文字 | 对照可搜索文本与原图 |
| 发行人别名资料 | 身份映射漏掉别名 | 用已核实代码和名称测试 |
这些原因在测试前都只是猜测。还没确认扫描文字是否进入搜索库,就不能先归咎于排序。保留原结果,避免修复后的运行抹去失败证据。这里的比例只是自设例子,不是某个模型、接口或CoTrading功能的实际测量结果。
主动检查结果之外的补集
补集是有限资料集合中没有返回的部分。可以直接审阅,集合太大时也可以按明确规则抽样。采用抽样就要说明样本数量和选择方法,不能把样本发现率说成整个集合的完整召回率。如果只抽容易阅读的短文件,反而可能避开真正造成遗漏的扫描格式或特殊语言材料。
选择可能表现不同的文档类型、日期段和语言版本。新发现的相关项目写进检查日志,记录原文位置和相关理由。应区分真正漏检与对任务边界的分歧。如果审阅中修改相关标准,需要对整个资料池一致重评,不能只重新标记让结果难看的几项,从而制造检索改善的假象。
一次修复一个阶段
可依次检查是否入库、身份是否识别、筛选是否正确、查询词是否足够以及排序情况。先确认系统确实能访问每份相关来源,再修改提示词。放宽查询可能召回更多相关内容,也可能增加无关噪声,应同时检查,不能仅凭返回条数增长就宣布效果更好。
修复后用同一资料集合重跑,比较哪些项目被找回、哪些又被漏掉。留一些新案例不参与调参,随后另做检查。被反复调整到熟悉测试题的搜索流程,未必在另一家公司的材料中同样有效。这些限制应保留在报告中,不能让一个总分掩盖适用范围。
将遗漏连接到研究结论
最后看漏掉的资料是否改变备忘录中的重要陈述。漏掉取消条款,可能比漏掉另一段重复收入增长更重要。登记受影响主张及后续复核动作。召回比例概括的是资料池内的检索行为,不会自动衡量每项遗漏在金融判断中的重要性;这仍需结合研究问题决定。
常见问题
只读前几条结果能估算召回率吗?
不能。那只能评估返回项目是否相关,召回率的分母还需要结果之外的相关材料,或独立建立的参考集合。
找回更多文档一定改善工作流吗?
不一定。额外命中可能增加噪声或重复信息。应同时看找回的相关项目、剩余遗漏以及人工审阅假阳性的成本。