[논문 리뷰] Statistical modeling: the three cultures

Adel Daoud, Devdatt Dubhashi|arXiv (Cornell University)|2020. 12. 08.

Data Analysis with R인용 수 4

한 줄 요약

이 논문은 전통적인 데이터 모델링 문화(DMC)와 알고리즘 모델링 문화(AMC)를 융합한 하이브리드 모델링 문화(HMC)를 소개한다. 여기서 예측과 추론이 통합되어 인과 추론을 향상시킨다. 기계학습을 통한 예측과 통계적 추론을 결합함으로써 HMC는 전통적인 예측과 설명 사이의 경계를 해소하여 자연과학 및 사회과학 분야의 과학적 모델링에서 신뢰성과 타당성을 높인다.

ABSTRACT

Two decades ago, Leo Breiman identified two cultures for statistical modeling. The data modeling culture (DMC) refers to practices aiming to conduct statistical inference on one or several quantities of interest. The algorithmic modeling culture (AMC) refers to practices defining a machine-learning (ML) procedure that generates accurate predictions about an event of interest. Breiman argued that statisticians should give more attention to AMC than to DMC, because of the strengths of ML in adapting to data. While twenty years later, DMC has lost some of its dominant role in statistics because of the data-science revolution, we observe that this culture is still the leading practice in the natural and social sciences. DMC is the modus operandi because of the influence of the established scientific method, called the hypothetico-deductive scientific method. Despite the incompatibilities of AMC with this scientific method, among some research groups, AMC and DMC cultures mix intensely. We argue that this mixing has formed a fertile spawning pool for a mutated culture that we called the hybrid modeling culture (HMC) where prediction and inference have fused into new procedures where they reinforce one another. This article identifies key characteristics of HMC, thereby facilitating the scientific endeavor and fueling the evolution of statistical cultures towards better practices. By better, we mean increasingly reliable, valid, and efficient statistical practices in analyzing causal relationships. In combining inference and prediction, the result of HMC is that the distinction between prediction and inference, taken to its limit, melts away. We qualify our melting-away argument by describing three HMC practices, where each practice captures an aspect of the scientific cycle, namely, ML for causal inference, ML for data acquisition, and ML for theory prediction.

연구 동기 및 목표

• 과학 연구에서 전통적인 통계적 추론(DMC)과 현대 기계학습 예측(AMC) 사이의 갈등을 다루기 위해.
• 데이터 과학 및 사회과학에서 예측과 추론을 별개의 범주로 간주하는 데서 비롯하는 한계를 규명하기 위해.
• 예측과 추론을 통합한 새로운 융합 모델링 철학인 하이브리드 모델링 문화(HMC)를 제안하기 위해.
• HMC가 인과 추론, 데이터 확보, 이론 예측을 포함한 과학적 전 주기에서 어떻게 작용하는지 보여주기 위해.
• 통합된 모델링 접근 방식을 통해 더 신뢰성 있고 타당하며 효율적인 통계적 실천으로의 전환을 주장하기 위해.

제안 방법

• 세 가지 통계적 문화를 식별하는 개념적 프레임워크를 제안한다: 데이터 모델링 문화(DMC), 알고리즘 모델링 문화(AMC), 그리고 새로 정의된 하이브리드 모델링 문화(HMC).
• 가설-연역적 과학적 방법에 뿌리를 두고 있으며 자연과학 및 사회과학에서 지배적인 전통적인 DMC의 역사를 철학적으로 분석한다.
• 기계학습의 예측 능력과 복잡한 데이터에 대한 적응성으로 인해 부상한 AMC의 부상과 기존 과학적 추론과의 불일치를 검토한다.
• HMC를 통해 예측과 추론이 더 이상 별개가 아니라 상호 보완적인 관계를 형성하게 되며, 특히 인과 모델링에서 그러한 통합이 중요하다고 제안한다.
• 실제 적용 사례 세 가지를 통해 HMC를 구체화한다: 기계학습을 통한 인과 추론, 기계학습을 통한 데이터 확보, 기계학습을 통한 이론 예측.
• HMC는 추론 목표를 예측 모델링 프레임워크 내에 통합함으로써 예측과 추론 사이의 엄격한 경계를 해체한다고 주장한다.

실험 결과

연구 질문

• RQ1 기계학습 예측과 통계적 추론은 과학 연구에서 어떻게 의미 있게 통합될 수 있는가?
• RQ2 예측과 추론을 통합하는 하이브리드 모델링 문화의 핵심 특성은 무엇인가?
• RQ3 HMC는 데이터 과학에서 인과 추론의 신뢰성과 타당성을 어떻게 향상시킬 수 있는가?
• RQ4 HMC는 이론 개발과 데이터 수집을 포함한 과학적 전 주기에서 어떻게 작용하는가?
• RQ5 통계 모델링에서 전통적인 예측과 추론의 경계를 해체하는 데 실질적인 의미는 무엇인가?

주요 결과

• 하이브리드 모델링 문화(HMC)는 데이터 모델링 문화(DMC)와 알고리즘 모델링 문화(AMC)의 융합으로 탄생하여 통계 모델링의 새로운 범주를 창출한다.
• HMC는 예측과 추론이 상호 보완적으로 작용하게 하여 더 견고하고 신뢰할 수 있는 과학적 결론을 이끌어낸다.
• 예측과 추론의 경계가 극한까지 추구될 경우 HMC에서는 그 경계가 사라지며, 양자 모두가 통합된 모델링 절차에 내재된다.
• HMC는 기계학습 모델을 단순한 예측을 넘어서 인과 효과를 추정하고 타당성을 확보하는 데 사용함으로써 인과 추론을 지원한다.
• HMC에서 기계학습 기법은 데이터 확보에 적용되어 과학적 실험에서 표본 추출 전략과 데이터 품질을 향상시킨다.
• HMC는 예측 모델을 사용해 검증 가능한 가설을 도출함으로써 과학적 방법의 순환 고리를 완성함으로써 이론 예측을 촉진한다.