作者:卫夕
来源:卫夕聊广告(ID:weixiads)
编辑:Verna
据说,在标题里加上【深度长文】四个字,会将点击率提升一个等级,而文章到底是否深度其实并不重要!——尼古拉斯*赵四
不管你是否听过这个词,这篇文章都会让你对“幸存者偏差”理解的更加深刻,先让我们来看几个段子:
这些都是关于幸存者偏差的段子,大家看完都哈哈大笑,是因为我们都太容易识别它了,然而我列出下面的案例,我们可能未必能得出正确的结论了:
事实上,以上的案例都极有可能得出错误的结论:
在我们日常工作的决策中,幸存者偏差是如此普遍,常常在不经意中影响我们的决策与判断,那么这个概念的本质是神马?它容易在哪些情况下发生?它的作用机制是怎样的?我们如何避免它?今天的文章我们就一起来探讨一下这个问题:
“幸存者偏差”的历史
“幸存者偏差”来源于二战中一个著名的故事:
1941年,第二次世界大战中,空军是最重要的兵种之一,盟军的战机在多次空战中损失严重,无数次被纳粹炮火击落,盟军总部秘密邀请了一些物理学家、数学家以及统计学家组成了一个小组,专门研究“如何减少空军被击落概率”的问题。
当时军方的高层统计了所有返回的飞机的中弹情况——发现飞机的机翼部分中弹较为密集,而机身和机尾部分则中弹较为稀疏,于是当时的盟军高层的建议是:加强机翼部分的防护。
但这一建议被小组中的一位来自哥伦比亚大学的统计学教授——沃德(Abraham Wald)驳回了,沃德教授提出了完全相反的观点——加强机身和机尾部分的防护。
那么这位统计学家是如何得出这一看似不够符合常识的结论的呢?沃德教授的基本出发点基于三个事实是:(1)统计的样本只是平安返回的战机;(2)被多次击中机翼的飞机,似乎还是能够安全返航;(3)而在机身机尾的位置,很少发现弹孔的原因并非真的不会中弹,而是一旦中弹,其安全返航的机率极小,即返回的飞机是幸存者,仅仅依靠幸存者做出判断是不科学的,那些被忽视了的非幸存者才是关键,他们根本没有回来!
军方采用了教授的建议,加强了机尾和机身的防护,并且后来证实该决策是无比正确的,盟军战机的击落率大大降低,这就是“幸存者偏差”故事的来源。
“幸存者偏差”的本质
广义的幸存者偏差用统计学的专业术语来解释是——“选择偏倚”,即我们在进行统计的时候忽略了样本的随机性和全面性,用局部样本代替了总体随机样本,从而对总体的描述出现偏倚。
统计学的简单描述是这样的:统计全集为A,观察到A的子集A1有特征X,A1为幸存者,而A另外的子集A2并没有观察到或者被人为忽略,于是判断全集A都有特征X,事实上A2的特征为Y。
用上述记者调查买火车票的案例来代入解释为:A为全体想买火车票的人,A1为已经在火车上的人,A2为想买但没买到的人,特征X为买到票,特征Y为未买到票,即幸存者偏差将一小部分显性样本代替了随机样本,从而导致了统计的偏差。
有了这个框架,我们就能从理论的角度理解这些“幸存者偏差”的具体案例了:
在以上四个案例中,全集A分别为:中国的所有孩子、所有心脏病患者、我公司的所有同事、预测世界杯的所有动物;
幸存者A1分别为:有条件去美国念书的孩子、在长庚医院的心脏患者、去健身房的同事、章鱼保罗;
特征X分别为:数学好、饮食独特、身材好、预测准;
特征Y分别为:数学平庸、饮食正常、身材一般、预测不准。
这就是“幸存者偏差”的分析框架。
警惕“幸存者偏差”的滥用
很多人对“幸存者偏差”这个名词一知半解的时候,往往会造成它的滥用,在作者看来,警惕“幸存者偏差”和警惕“幸存者偏差”的滥用同样重要。
很多人看到一些媒体报道的创业“成功故事”立马嗤之以鼻——“这是幸存者偏差,不知道有多少个失败的案例呢?”,然后对成功者的方法和经验一概摒弃;
很多行贿的工作人员看到“某人行贿被抓”的新闻见怪不怪,认为这是幸存者偏差——“媒体只会报道那些行贿被抓的人,其实还有更多没抓住呢!”于是他们继续行贿。
那么“幸存者偏差”这个概念是如何被滥用的呢?还是举记者调查高铁买票的例子,明白“幸存者偏差”理论,只能让我们明白——"记者在高铁上进行调查来判断所有人都买到票"这种方法是不科学的。
注意——它并不能直接推断出"所有人都买到票"这个结论一定是错的,因为剩下的人有没有买到票这一信息——我们不知道:春运的时候我们能根据常识判断他们可能买不到票,但平时的高铁,基本上是想买到票的人都能买到票,因此,直接判断“肯定有人没买到票”就属于“幸存者偏差”的滥用,错误的反面不一定就是正确。
从统计学的角度我们来看我们是如何滥用幸存者偏差的——我们观察到了A1有特征X,同时我们意识到可能存在幸存者偏差,我们预先把A1定义为幸存者,于是直接判断非幸存者A2一定不会有特征X,而真相是:A2是否有特征X这个信息我们并不知道,可能有,也可能没有。
警惕“幸存者偏差”滥用非常重要,事实上前面提到的二战统计学教授沃德的故事也只是后人及其简化之后的版本,稍微思考一下就会知道,一个受过科学训练的统计学教授是不可能只凭直观判断就直接给出结论的。
事实上沃德教授关于飞机击落问题先后提交了八份不同方面的报告,其中主论文为《A Method of Estimating Plane Vulnerability Based on Damage of Survivors》,即《一种根据幸存飞机损伤情况推测飞机要害部位的方法》。
这篇论文就有80多页,仅后人对他贡献的综述就有10多页,(公众号回复关键词——“沃德教授”获取论文),这位写过巨著《序列分析》的权威教授显然是对框架中A2的特征做过详细而严谨的分析才得出结论滴!
如果拍拍脑袋就能成为统计学家,那大家都是统计学家!
互联网人如何避免“幸存者偏差”?
“幸存者偏差”是数据分析的常见逻辑错误,而数据又是驱动互联网的动力之一,那么互联网人应该在分析数据、决策判断时如何避免“幸存者偏差”的存在呢?卫夕总结了三个步骤:
一、判断样本的随机性,即必须知道样本是否是随机的。
二、判断样本和剩余样本中会不会存在显著差异。
三、分析剩余样本数据,验证结论。
我们来看几个案例直接进行训练:
在这个案例中避免幸存者偏差的标准三步为:
1.判断样本的随机性,即看微信公众号的打赏用户是否能代表整体?答案是否定的,因为只覆盖了安卓用户。
2.判断样本和剩余样本会不会存在显著差异?即安卓用户和iOS在打赏这件事上会不会存在差异?答案是:可能存在差异。
3.分析剩余样本数据,验证结论,即加上iOS的打赏码再次验证结果。
在这个案例中三步分别为:
1.判断样本随机性,即分析流失用户是不是所有会员的随机样本。答案是否定的——流失的都是免费会员。
2.判断样本和剩余样本会不会存在显著差异?即正常会员和免费会员有没有差异?当然有。
3.分析剩余样本数据,验证结论,即看正常会员是否流失。
这个案例中,分析依然分为三步:1.判断样本随机性——废话!3秒以下的都舍去了!当然没有随机性!2.判断样本和剩余样本是否存在显著差异?废话,3秒以下和3秒以上肯定有差异!3.分析剩余样本数据、验证结论。这.....就不用验证了吧!
以上的分析前提是我们需要对我们的业务进行深刻的理解,只有你深刻理解了你业务中具体重要的影响因素你才能做出正确的猜想和判断。
好了:以上就从理论到实践的角度介绍了幸存者偏差,这时候有人会问卫夕,你觉得中文互联网上哪一个平台的内容出现幸存者偏差的概率会比较大?哈哈哈,毫无疑问是知乎!我们来感受一下:
本文由卫夕聊广告(ID:weixiads)原创发布,授权互联网早读课转载。内容仅代表作者独立观点,不代表早读课立场。如需转载,请联系原作 者。