总体漂移:核对已验证工作流现在处理什么样本
已验证流程的总体表现可能改变,只因为输入构成变了,即使各类别内部质量没有变化。除了总通过率,也要监测流程实际接收什么。先分开总体构成与条件质量,再判断工具改善、恶化还是正在承担更困难的资料。
定义部署总体
财报提取流程可能按语言、扫描或原生文本、表格复杂度、文件年龄和报告准则分层。选择与故障机制有关的类别,而不是随意标签,并保存定义,避免分类规则改变看起来像真实总体变化。
NIST AI 风险管理框架是涵盖开发、使用和评估可信性的自愿框架,可作为持续风险复查的背景;它不为本文规定漂移阈值,也不认证本工作表。下面分解是本站原创的假设研究计算。
工作负载变化的假设案例
假设流程在原生文本中正确提取目标值的比例为 98%,扫描件为 80%。早期一千份资料中九百份原生、一百份扫描;后来变成各五百份。仅为演示,假设两类别正确率完全不变。
| 输入类别 | 早期数量 | 后来数量 | 两期内部正确率 |
|---|---|---|---|
| 原生文本 | 900 | 500 | 98% |
| 扫描件 | 100 | 500 | 80% |
| 预计正确提取数 | 962 | 890 | 总体受组合影响 |
总体正确率由 96.2% 降到 89%,下降 7.2 个百分点,却没有类别内部恶化。将旧类别权重用于后来相同的条件率,仍得到 96.2%。标准化视图解释构成,不取代当前用户实际经历的 89%。
输入不等于结果
参考标签成熟之前,通常就能看到格式或语言变化。它是值得调查的线索,不证明错误率已经改变。反过来,输入边际分布稳定,也不能保证表现稳定。新的会计列报可能改变文字与正确数字的关系,却不明显改变语言或文件格式类别。
分开输入变化、标签基础发生率变化,以及输入与结果关系变化,才能选择下一步核查。已知类别重新加权可能解释构成;目标定义或提取规则改变则需要另一种评估。不要把所有无法解释的差异都叫漂移,再假设同一种自动修复有效。
建立有日期的监测表
每期记录数量、未知类别、类别比例、标签覆盖及实际条件结果,保持抽样流程可比。如果只有高风险预警接受人工标注,其错误率不能直接代表所有输入。也需要从表面普通的案例中取得代表性复核。
未知类别不能在重新归一化时消失。无法识别的新格式可能恰是最重要变化,先单列数量、样例和处理结果,直到归类解决。先删除未知再画稳定图形,可能隐藏新故障。
还要保留分类器或解析器本身的版本。若从某天开始把一类扫描件识别为文本,比例变化可能来自检测规则,不是资料真实改变。先对固定小样本复跑,能够帮助分离两种机制。
让复查触发与后果相称
按数量、后果与证据设置复查条件。扫描件增加可能需要更多 OCR 核验,新司法辖区则可能需要专业来源检查。通用数字阈值无法承载不同风险,应说明触发之后为什么采取某动作,以及如何评估它。
用新标签案例评价调整,保留原评估的历史含义。重训、重校准或缩小处理范围都只是可能响应,不是必然有效。变化可能暂时、无害或超出流程原定范围,诊断应先于干预。
说明变化与未知
有用的报告分列新负载构成、实际总体结果、标准化比较和未成熟标签覆盖。案例中,流程处理了更多困难格式,假设各格式内部质量未变。这是精确的运营解释,不表示系统必然变差,也不表示当前使用体验没有下降。
常见问题
输入漂移证明模型准确率下降了吗?
不能。它说明总体改变,条件表现变化仍需合适结果证据。
总分不变也可能隐藏问题吗?
可能。一类改善可以抵销另一类恶化,应保留分层结果和覆盖,不只看一个合计。