Skip to main content
QUICK REVIEW

[论文解读] The piranha problem: Large effects swimming in a small pond

Christopher Tosh, Philip Greengard|arXiv (Cornell University)|May 27, 2021
Philosophy and History of Science被引用 12
一句话总结

本文提出了「食人鱼问题」——一种理论约束,表明在多元系统中,若解释变量之间不存在高度相互依赖,则难以同时存在大量对单一结果变量产生显著影响的效应。通过相关性、回归和互信息的定理分析,该研究证明此类效应需要不切实际的交互作用或依赖关系,从而质疑了社会科学中大量独立显著效应的可信度。

ABSTRACT

In some scientific fields, it is common to have certain variables of interest that are of particular importance and for which there are many studies indicating a relationship with different explanatory variables. In such cases, particularly those where no relationships are known among the explanatory variables, it is worth asking under what conditions it is possible for all such claimed effects to exist simultaneously. This paper addresses this question by reviewing some theorems from multivariate analysis showing that, unless the explanatory variables also have sizable dependencies with each other, it is impossible to have many such large effects. We discuss implications for the replication crisis in social science.

研究动机与目标

  • 探究在多元系统中,单一结果变量上可共存的显著效应数量的理论极限。
  • 挑战社会科学研究中广泛报告的大量独立显著效应的可信度,尤其是在复制危机的背景下。
  • 形式化相关系数、回归系数和互信息的数学约束,以限制显著效应的数量。
  • 为评估声称对单一结果产生大而独立效应的研究集群,提供一个理论框架。
  • 强调变量间依赖关系与交互作用在使显著而稳定的效应在统计上自洽方面所起的关键作用。

提出的方法

  • 从多元分析推导数学定理,以约束固定结果变量方差下的系统中显著效应的数量。
  • 将这些定理应用于相关性、线性回归和互信息,表明显著效应需要强烈依赖或交互作用。
  • 使用R²分解说明总解释方差不能超过1,从而限制显著效应的数量,除非变量间存在相关性或强交互作用。
  • 分析非线性模型(如逻辑回归)以表明多个独立的显著效应会导致预测概率落入极端值(例如从0.01到0.99),这在实际应用中不现实。
  • 提出,除非预测变量之间存在强烈负向交互作用或高度负相关,否则无法维持多个显著效应,而这种情况在典型的社会科学数据中极不可能出现。
  • 类比于「基于稀疏性的投注」原则以及层次先验(如horseshoe先验)作为解决食人鱼问题的实用方法。

实验结果

研究问题

  • RQ1在何种条件下,多个显著效应可共存于单一结果变量的多元系统中?
  • RQ2解释变量之间的依赖关系如何影响回归模型中大而独立效应的可信度?
  • RQ3方差分解与R²对系统中显著效应数量施加了何种约束?
  • RQ4为何社会科学研究中大而独立的效应常因交互效应而显得不可行?
  • RQ5逻辑回归等非线性模型如何进一步限制多个大而独立效应的存在?

主要发现

  • 除非解释变量之间高度相互依赖,否则在统计上不可能存在大量解释变量对单一结果变量产生大而独立的影响。
  • 回归模型的总R²不能超过1,这限制了显著效应的数量,除非这些效应之间存在相关性或强交互作用。
  • 在逻辑回归等非线性模型中,多个大而独立的效应可能使预测概率被推向极端值(如从0.01到0.99),这在实际应用中不现实。
  • 若不违反方差或概率约束,唯一能维持多个显著效应的方式是通过强烈负向交互作用或高度负相关,而这类情况在社会科学数据中极为罕见。
  • 理论约束表明,社会科学中广泛报告的许多显著效应可能被夸大或不可复制,原因在于未考虑的依赖关系与交互作用。
  • 食人鱼问题为质疑声称存在大而独立效应的研究集群提供了理论依据,尤其当解释变量之间的互相关性较低时。

更好的研究,从现在开始

从阅读论文到最终审阅,大幅缩短您的研究时间。

无需绑定信用卡

本解读由 AI 生成,并经人工编辑审核。