析因比较:检验两项改变是否存在交互作用
两项流程改动各自有效,不代表合并使用时效果等于两者之和。二乘二析因比较把问题拆成四格:都不用、只用甲、只用乙、两者都用。然后检查乙开关不同时,甲的效果是否改变,而不是把最好的一格当成两个组件都能独立增益的证明。
最终记录应保留四格均值、样本量、结局尺度、条件效应和事先确定的交互对比,还要保留分配与重复结构。四个好看的平均数可以描述样本,却不足以证明可重复的因果机制或精确的统计交互。
看结果之前定义实验
设团队测试文档检索辅助甲,以及证据核验清单乙。结局是完成指定核对任务的分钟数,并单独规定准确性与必要证据要求。这些是假设研究工具,不是在声称CoTrading已经提供对应功能,也不是对投资交易策略做优化。
事先规定可纳入任务、文档版本、人员经验、超时处理和准确性规则,再把适合的独立任务场次随机分入四格。同一人员或发行人贡献多次任务时,保留标识并处理依赖。如果随机分配单位是人员,就不能把随后每次点击当作独立随机化单位。
NIST交互作用案例展示在主效应之外检查交互的做法。其工程案例的结论不代表本例辅助工具的效果。下面另建四格算例,用于解释计算、编码和边界,不能当成真实产品测评。
完整重建四格
假设计划分配相等、测量口径兼容,得到如下虚构平均耗时。只有在证据完整与准确性仍达标的前提下,更短时间才是有利结果。
| 乙开关 / 甲开关 | 甲关闭 | 甲开启 |
|---|---|---|
| 乙关闭 | 20分钟 | 16分钟 |
| 乙开启 | 18分钟 | 17分钟 |
乙关闭时,甲效应为十六减二十,等于负四分钟。乙开启时,甲效应为十七减十八,等于负一分钟。按此减法方向,交互对比是负一减负四,等于正三分钟;也可直接计算十七减十八减十六加二十。
正号说明在分钟这个加性尺度上,乙开启后甲的省时效果减弱。它不意味着组合比基线更慢,因为十七仍低于二十;也不证明任一工具在所有场景都具有内在伤害。交互讨论的是另一因素设置改变时,某项效果怎样改变。
若孤立改进完全相加,组合预测应为二十减四再减二,等于十四。实际十七比加性预测多三分钟。换个方向核对,乙在甲关闭时减少两分钟,在甲开启时增加一分钟,两者差额同样为正三。这个对称检查能发现符号和参照组混乱。
不把平均主效应当成全部条件效应
对乙的两种设置等权平均,甲主效应为负四与负一的平均,等于负二点五分钟。乙平均主效应为负二与正一的平均,等于负零点五分钟;四格总平均十七点七五。它们描述的是对另一因素采用这套权重的平均比较。
不能用乙平均负零点五,掩盖已经开启甲时乙反而多花一分钟。若部署决策只涉及甲开启的任务,相关的是这个条件比较。另一方面,若计划权重正是目标总体,平均效应仍有意义;存在交互并不自动使所有主效应失去解释。
四格样本量不同,要说明报告采用等权格子均值还是实际工作负荷权重。否则缺报或分配改变会悄悄改变估计目标。保留每格数量、均值和相应变异信息,不让软件默认汇总替研究者选择问题,也不从一张只有均值的图片虚构标准误。
为什么软件系数可能不等于三
采用零一编码,重建本表的饱和均值模型是:二十,减四乘甲,减二乘乙,加三乘甲乙乘积。交互系数三正是上述差中之差。这只是四格均值的表示,并不意味着四个数字已经提供了误差估计。
改成负一与正一编码,同样四格对应截距十七点七五、甲系数负一点二五、乙系数负零点二五、甲乙系数正零点七五。把每一组开关代入,可以逐格复原。此时交互系数乘四才是差中之差;乘二则是按乘积列正负两水平求出的常见析因交互效应。
NIST交互矩阵图说明的编码与模型部分区分了系数和效应估计。报告写零点七五、一点五或三,可能采用不同约定;先取得设计编码和对比定义,再判断是否矛盾。复制软件中的“交互项”列却不说明编码,会使同一案例看似产生不同答案。
另一个边界:加性与乘性尺度
再设一张虚构表:都不用耗时一百,只用甲八十,只用乙五十,组合四十。乙关或开时,甲都把耗时乘零点八,所以相对效果没有变化,对应对数尺度交互为零。
但在原始分钟尺度上,甲分别减少二十和十分钟,加性交互为正十。两项计算都可以正确,因为一个问绝对差是否相加,一个问比例是否相乘。不能因相对效果稳定,就说绝对节省分钟在所有条件下相同。
应依据决策与测量性质预先选尺度,而不是观察哪个给出希望的故事。某尺度存在统计交互,不等于发现普遍的认知或商业协同机制。准确性应另列:若流程更快却遗漏必要证据,即使时间对比有利,也可能没有完成任务。
精度与因果识别分别核验
若每格只有一次观察,四个格均值可以被完全拟合,却没有格内纯误差估计。需要适当独立的重复场次来了解变异;预先登记交互对比,并让区间计算匹配随机化、配对、人员聚类及结局分布。四格图片本身不能提供缺失的不确定度。
再用一个精度假设具体核验:每格有五次独立场次,样本标准差均为两分钟。每个均值的估计方差为四除以五,等于零点八。在四格均值独立的条件下,交互对比虽然含加号和减号,方差仍把四个零点八相加,得到三点二,标准误约一点七九分钟。点估计仍是三分钟,但不确定度并不小;置信区间还需相应分布与自由度,不能直接随手附一个正态临界值。
若同一人员在四格反复做题,均值之间可能相关,此时不能机械沿用四项方差相加。应保留人员与任务配对,使用能反映协方差的分析。无法取得重复结构时,宁可把精度标为未核验,也不能把每次输出都算成独立样本来缩窄区间。
甲在乙关闭时显著、在乙开启时不显著,并不单独证明两种效应之差显著。应直接评价交互对比。反过来,不精确的交互估计也不能证明效果严格相加,要保留区间及其中仍允许的实际重要差异。
随机分配的因果解释还依赖执行和分析假设。若难题系统性获得双辅助,四个观察均值无法独自区分交互与任务选择。保留排除、失败、超时和缺失,不能只留成功且快速的场次。若工具更新改变证据标准,也要先确认它们仍在完成同一任务。
若一格均值包括超时,另一格只包括成功完成任务,应先修复结局定义。报告完成数量及预先规定的失败处理方式;成功案例均值变短,完全可能同时伴随整体完成率下降,不能只挑有利的一项解释。
交付可以复算的析因记录
| 记录 | 必需内容 | 复核问题 |
|---|---|---|
| 因素定义 | 甲乙开关及版本 | 四种组合真的可比较吗 |
| 分配 | 单位、比例、依赖结构 | 推断是否匹配随机化 |
| 结局 | 时间、准确、失败、计数 | 是否排除了慢任务 |
| 四格 | 均值与变异 | 每项对比能否重建 |
| 交互 | 尺度、减法方向、区间 | 是否直接比较效应 |
| 决策 | 目标工作负荷、可接受取舍 | 哪个条件比较才相关 |
核验清单改变、检索工具升级或任务组合变化时,重新打开比较。保留原始因素定义,并在合适的新任务中测试所需组合。可支持的结论应说明组件在特定条件下怎样共同作用,不能把某次最好组合变成所有独立收益必然相加的承诺。
常见问题
组合最快就证明两项组件都有帮助吗?
不能。需要在相关设置下分别比较组件,同时保留准确性与不确定度。
交互作用在不同尺度上相同吗?
不一定。绝对差、比例与对数可以得到不同交互陈述,因为估计目标不同。