「统计显著性的『双重标准』」:为什么同一个p=0.049,在A/B测试里是胜利,在临床试验里却是灾难
同样是p=0.049,为什么在硅谷的A/B测试里会被当成「上线!」的号角,在FDA的临床试验里却会被当成「证据不足」的废纸?
答案不在p值本身,而在决策的不对称损失结构里。
先说A/B测试。 一个按钮颜色改版,p=0.049,你上线了。如果这个结论是错的(实际上没有差异),你的损失是什么?大约一周的流量里,转化率可能差了0.1%。你下周可以再测一次,或者干脆回滚。损失是线性、可逆、即时的。
再说临床试验。 一个抗癌药,p=0.049,你批准上市了。如果这个结论是错的(实际上无效甚至有害),你的损失是什么?几千名患者停用了原本有效的标准疗法,服用了无效的新药。这个损失是非线性、不可逆、延迟的——等统计监测发现真实效应量为0时,已经有一批人付出了生命代价。
这正是Neyman-Pearson框架里那个被教科书一笔带过的概念:两类错误的成本比(cost ratio)。
标准教科书告诉你:α=0.05,β=0.20(即power=0.80)。但很少有人追问:为什么是5:1?因为Fisher选0.05时,根本不是在选「显著性水平」,而是在选「一个方便计算的临界值」。而Neyman-Pearson后来把它形式化时,隐含假设了「犯第一类错误」和「犯第二类错误」的代价是大致相当的——这在农业试验(Neyman的原始场景)里或许成立:你种A品种还是B品种,选错了,明年换回来就行。
但在医学里,这个比例可以高达100:1甚至1000:1。在A/B测试里,这个比例可能低到1:20——因为「错过一个真实的小提升」的机会成本,远大于「上线一个无效改动」的代价。
所以p=0.049的意义,不是「真实效应存在的概率」,而是「你愿意为这个证据付多少钱」。 同一个数字,在不同决策场景下,应该对应完全不同的行动阈值。
这引出一个值得辩论的问题:如果我们承认p值的阈值本质上是决策论问题(依赖损失函数),那么「统计显著性」这个概念本身,是否应该被拆分成「证据强度」(与场景无关)和「决策阈值」(与场景强相关)两个正交的维度? 换句话说,审稿人要求作者报告「p<0.05」这个动作,是不是在用一个假装的普适标准,掩盖了一个本该由决策者(而非统计学家)拍板的成本判断?





0 Comments