[論文レビュー] Statistical modeling: the three cultures

Adel Daoud, Devdatt Dubhashi|arXiv (Cornell University)|Dec 8, 2020

Data Analysis with R被引用数 4

ひとこと要約

本論文は、伝統的なデータモデリング文化（DMC）とアルゴリズムモデリング文化（AMC）を融合させたハイブリッドモデリング文化（HMC）を提唱する。予測と推論を統合することで、因果推論の質を向上させる。機械学習による予測と統計的推論を組み合わせることで、HMCは従来の予測と説明の境界を解体し、自然科学および社会科学分野における科学的モデリングの信頼性と妥当性を高める。

ABSTRACT

Two decades ago, Leo Breiman identified two cultures for statistical modeling. The data modeling culture (DMC) refers to practices aiming to conduct statistical inference on one or several quantities of interest. The algorithmic modeling culture (AMC) refers to practices defining a machine-learning (ML) procedure that generates accurate predictions about an event of interest. Breiman argued that statisticians should give more attention to AMC than to DMC, because of the strengths of ML in adapting to data. While twenty years later, DMC has lost some of its dominant role in statistics because of the data-science revolution, we observe that this culture is still the leading practice in the natural and social sciences. DMC is the modus operandi because of the influence of the established scientific method, called the hypothetico-deductive scientific method. Despite the incompatibilities of AMC with this scientific method, among some research groups, AMC and DMC cultures mix intensely. We argue that this mixing has formed a fertile spawning pool for a mutated culture that we called the hybrid modeling culture (HMC) where prediction and inference have fused into new procedures where they reinforce one another. This article identifies key characteristics of HMC, thereby facilitating the scientific endeavor and fueling the evolution of statistical cultures towards better practices. By better, we mean increasingly reliable, valid, and efficient statistical practices in analyzing causal relationships. In combining inference and prediction, the result of HMC is that the distinction between prediction and inference, taken to its limit, melts away. We qualify our melting-away argument by describing three HMC practices, where each practice captures an aspect of the scientific cycle, namely, ML for causal inference, ML for data acquisition, and ML for theory prediction.

研究の動機と目的

• 科学的研究における伝統的な統計的推論（DMC）と現代の機械学習による予測（AMC）の間の緊張を解消すること。
• データサイエンスおよび社会科学において、予測と推論を別個のパラダイムとして扱うことの限界を特定すること。
• 予測と推論を統合する新しい統合的枠組み「ハイブリッドモデリング文化（HMC）」を提唱すること。
• HMCが因果推論、データ収集、理論予測を含む科学的サイクルの全般をどのように支援するかを示すこと。
• 統合的モデリングアプローチを通じて、より信頼性が高く、妥当性があり、効率的な統計的実践への移行を提唱すること。

提案手法

• 三つの統計的文化（データモデリング文化（DMC）、アルゴリズムモデリング文化（AMC）、および新たに定義されたハイブリッドモデリング文化（HMC））を特定する概念的枠組みを提唱する。
• 仮説的・演繹的科学的方法に根ざし、自然科学および社会科学で支配的であったDMCの歴史的・哲学的背景を分析する。
• 機械学習の予測的パワーと複雑なデータへの適応性によって駆動されるAMCの台頭を検討し、従来の科学的推論とは相容れない点を明らかにする。
• HMCを提唱し、予測と推論がもはや独立ではなく、特に因果モデリングにおいて相互に補完し合うように統合される。
• 実用的応用例三つを通じてHMCを説明する：機械学習を用いた因果推論、機械学習を用いたデータ収集、機械学習を用いた理論予測。
• HMCは、推論的目標を予測モデリングフレームワーク内に組み込むことで、予測と推論のきめ細やかな境界を解体する。

実験結果

リサーチクエスチョン

• RQ1 機械学習による予測と統計的推論を、科学的研究において意味的に統合する方法は何か？
• RQ2 予測と推論を統合するハイブリッドモデリング文化の主な特徴は何か？
• RQ3 HMCは、データサイエンスにおける因果推論の信頼性と妥当性をどのように向上させるか？
• RQ4 HMCは、理論開発およびデータ収集を含む科学的サイクル全体をどのように支援するか？
• RQ5 統計的モデリングにおいて、従来の予測と推論の境界を解体することの実務的意味は何か？

主な発見

• ハイブリッドモデリング文化（HMC）は、データモデリング文化（DMC）とアルゴリズムモデリング文化（AMC）の融合から生じ、統計的モデリングの新しいパラダイムを形成する。
• HMCは、予測と推論が互いに補い合う仕組みを提供し、より強固で信頼性の高い科学的結論を導く。
• 予測と推論の区別を極限まで追求すると、両者が統一されたモデリング手順に埋め込まれるため、境界が解体される。
• HMCは、機械学習モデルを因果効果の推定に用いることで、因果推論を支援する。この際、推論の妥当性も保証される。
• HMCにおける機械学習技術は、データ収集に応用され、科学的実験におけるサンプリング戦略とデータ品質の向上を実現する。
• HMCは、予測モデルを用いて検証可能な仮説を生成することで、理論予測を促進し、科学的方法の閉ループを完結させる。