跳到正文

研究指南

AI 辅助证据核对

总体漂移:核对已验证工作流现在处理什么样本

已验证流程的总体表现可能改变,只因为输入构成变了,即使各类别内部质量没有变化。除了总通过率,也要监测流程实际接收什么。先分开总体构成与条件质量,再判断工具改善、恶化还是正在承担更困难的资料。

定义部署总体

财报提取流程可能按语言、扫描或原生文本、表格复杂度、文件年龄和报告准则分层。选择与故障机制有关的类别,而不是随意标签,并保存定义,避免分类规则改变看起来像真实总体变化。

NIST AI 风险管理框架是涵盖开发、使用和评估可信性的自愿框架,可作为持续风险复查的背景;它不为本文规定漂移阈值,也不认证本工作表。下面分解是本站原创的假设研究计算。

工作负载变化的假设案例

假设流程在原生文本中正确提取目标值的比例为 98%,扫描件为 80%。早期一千份资料中九百份原生、一百份扫描;后来变成各五百份。仅为演示,假设两类别正确率完全不变。

输入类别早期数量后来数量两期内部正确率
原生文本90050098%
扫描件10050080%
预计正确提取数962890总体受组合影响

总体正确率由 96.2% 降到 89%,下降 7.2 个百分点,却没有类别内部恶化。将旧类别权重用于后来相同的条件率,仍得到 96.2%。标准化视图解释构成,不取代当前用户实际经历的 89%。

输入不等于结果

参考标签成熟之前,通常就能看到格式或语言变化。它是值得调查的线索,不证明错误率已经改变。反过来,输入边际分布稳定,也不能保证表现稳定。新的会计列报可能改变文字与正确数字的关系,却不明显改变语言或文件格式类别。

分开输入变化、标签基础发生率变化,以及输入与结果关系变化,才能选择下一步核查。已知类别重新加权可能解释构成;目标定义或提取规则改变则需要另一种评估。不要把所有无法解释的差异都叫漂移,再假设同一种自动修复有效。

建立有日期的监测表

每期记录数量、未知类别、类别比例、标签覆盖及实际条件结果,保持抽样流程可比。如果只有高风险预警接受人工标注,其错误率不能直接代表所有输入。也需要从表面普通的案例中取得代表性复核。

未知类别不能在重新归一化时消失。无法识别的新格式可能恰是最重要变化,先单列数量、样例和处理结果,直到归类解决。先删除未知再画稳定图形,可能隐藏新故障。

还要保留分类器或解析器本身的版本。若从某天开始把一类扫描件识别为文本,比例变化可能来自检测规则,不是资料真实改变。先对固定小样本复跑,能够帮助分离两种机制。

让复查触发与后果相称

按数量、后果与证据设置复查条件。扫描件增加可能需要更多 OCR 核验,新司法辖区则可能需要专业来源检查。通用数字阈值无法承载不同风险,应说明触发之后为什么采取某动作,以及如何评估它。

用新标签案例评价调整,保留原评估的历史含义。重训、重校准或缩小处理范围都只是可能响应,不是必然有效。变化可能暂时、无害或超出流程原定范围,诊断应先于干预。

说明变化与未知

有用的报告分列新负载构成、实际总体结果、标准化比较和未成熟标签覆盖。案例中,流程处理了更多困难格式,假设各格式内部质量未变。这是精确的运营解释,不表示系统必然变差,也不表示当前使用体验没有下降。

常见问题

输入漂移证明模型准确率下降了吗?

不能。它说明总体改变,条件表现变化仍需合适结果证据。

总分不变也可能隐藏问题吗?

可能。一类改善可以抵销另一类恶化,应保留分层结果和覆盖,不只看一个合计。

相关阅读