AI事实错误：系统排查编造的细节
排查 AI 事实错误，应先隔离可核查细节，再评价叙述。实体名称、日期、文件标识、数量和事件经过是合适起点。语言流畅不代表细节正确，承载结论的关键事实在核验前应保持草稿状态。
原始 SelfCheckGPT 论文研究基于一致性的非事实陈述检测。这是特定条件下的研究，不证明所有当前模型只要多次一致就真实。本流程把模型分歧视为线索，把适当原始证据作为核验基础。
建立事实隔离清单
复制草稿，标出一旦出错就会影响结论的细节，为每项设置编号。在状态解决前，不让它进入已确认依据。这样可以阻止一个可疑日期被复制进多份笔记，再因重复出现而显得可信。
按错误类型选择检查方式：实体错误需要核身份，计算错误需要查输入与公式，文件可能不存在则需要定位出版记录。重复询问宽泛问题，可能只产生另一套故事，无法触及原来不确定项。
| 类型 | 核验任务 |
|---|---|
| 实体 | 确认发行方、法律名称、代码或合约 |
| 文件 | 找到实际出版物与标识 |
| 事件 | 确认发生、日期与结果 |
| 数量 | 对齐值、单位、期间、分母 |
| 解释 | 区分来源归属与研究者推断 |
状态可用已验证、已更正、待核或已移除，不用“可能是真的”代替缺少什么的具体说明。
假设案例：不存在的报告与似曾相识的数字
假设 AI 草稿写虚构公司在四月提交“2026战略流动性报告”，债务下降百分之三十。研究者在发行方正式资料库里找不到该文件。这不证明完全不存在相关资料，却意味着草稿引用的报告尚未成立。
把句子拆成文件存在、发布日期和债务变化。进一步查询可能找到名称不同的季度报告，其中下降三成的是另一类负债。不能因此保留原句，应按实际文件、期间和定义重写。
这些主体与数字均为假设，说明看起来熟悉的数字可能让编造来源显得可信。修正一个细节后，还要重新检查围绕它建立的主张，否则主要错误可能继续留下。
正确使用分歧
第二个回答可以暴露名称不稳定、日期漂移或数字无解释，把变化保存为线索。但多次一致通常不如找到相关资料有力，特别是多个回答可能依赖相似材料或互相重复的语言。
两个模型答案冲突时，不要投票决定事实，而应找到能区分答案的检查。日期冲突就查出版记录，比率冲突就取得输入并独立计算。不确定性越明确，核查任务就应越具体。
因果解释也要检查来源是否真的作出对应归因。只有相关性时，解释保留为假设。没有编造数字，不表示因果故事可靠；证据链和限定条件同样需要检查。
按影响安排顺序
先核支撑核心结论的细节，再处理文字外观。主体、期间、正负号和分母错误，可能使整篇备忘录失效。发现高影响错误后，检查由其衍生的断言、计算和摘要，不能只改单独一处。
保存错误日志，记录原说法、更正、来源和受影响笔记。它是流程改进材料，不是模型准确率成绩。要计算有意义的成绩，还需要定义评估集合与一致判定规则。
来源无法取得时，本方法不能凭空确立事实，应阻止无依据主张进入结论。常见错误包括信任流畅语气、请求自报置信百分比、把重复一致当证明，以及只改数字却不检查对应主体和期间。
常见问题
直接问模型有没有幻觉，能验证回答吗？
不能。它可以建议核查线索，重要主张仍需适当外部证据。
每句话都需要投入相同核查时间吗？
不必。先检查会改变结论的细节，再按备忘录用途完成其余必要核验。