[논문 리뷰] Bayesian Workflow

Andrew Gelman, Aki Vehtari외 8명|arXiv (Cornell University)|2020. 11. 03.

Bayesian Modeling and Causal Inference인용 수 137

한 줄 요약

본 논문은 모델 구성과 적합에서 점검, 비교, 소프트웨어 관행에 이르는 포괄적인 베이지안 워크플로우를 제시하며, golf putting 및 planetary motion 예시로 설명한다.

ABSTRACT

The Bayesian approach to data analysis provides a powerful way to handle uncertainty in all observations, model parameters, and model structure using probability theory. Probabilistic programming languages make it easier to specify and fit Bayesian models, but this still leaves us with many options regarding constructing, evaluating, and using these models, along with many remaining challenges in computation. Using Bayesian inference to solve real-world problems requires not only statistical skills, subject matter knowledge, and programming, but also awareness of the decisions made in the process of data analysis. All of these aspects can be understood as part of a tangled workflow of applied Bayesian statistics. Beyond inference, the workflow also includes iterative model building, model checking, validation and troubleshooting of computational problems, model understanding, and model comparison. We review all these aspects of workflow in the context of several examples, keeping in mind that in practice we will be fitting many models for any given problem, even if only a subset of them will ultimately be relevant for our conclusions.

연구 동기 및 목표

• 모델 구축, 추론, 모델 점검/개선을 통합한 베이지안 워크플로우를 정의한다.
• 데이터 이전 설계, 사전 예측 검사, 생성적 모델링을 촉진하여 분석을 이해하고 제약을 두도록 한다.
• 불확실성 이해를 위해 반복적인 모델 구축, 디버깅 및 다중 모델의 비교를 촉진한다.
• 확률 프로그래밍(Stan) 작업에 관한 실용적 계산 이슈, 진단 및 전략을 강조한다.
• 실제 문제에서 베이지안 분석을 체계화하기 위한 지침과 사례를 제공한다.]
• method:[

제안 방법

• 유연성을 위해 템플릿과 모듈형 구성 요소를 사용한 초기 모델 구축을 설명한다.
• 해석 용이성과 계층적 모델링을 촉진하기 위한 매개변수의 스케일링 및 변환을 강조한다.
• 데이터를 관측하기 전에 사전 의미를 평가하기 위한 사전 예측 점검을 촉진한다.
• 생성적 모델링과 비생성적 모델링의 차이 및 예측 점검에 대한 함의를 논의한다.
• 현대 알고리즘(주로 해밀토니안 몬테카를로)과 진단 관행(Rhat, R*)의 활용에 대해 요약한다.
• Golf putting 및 Planetary motion을 통해 반복적 모델 개발을 설명하는 워크플로우 예시를 제시한다.

실험 결과

연구 질문

• RQ1 단순한 추론을 넘어 실용적이고 체계적인 베이지안 워크플로우를 구성하는 것은 무엇인가?
• RQ2 사전 선택, 모델 확장 및 계산 진단을 어떻게 통합하여 신뢰할 수 있는 추론을 제공할 수 있는가?
• RQ3 실제 문제에서 다중 베이지안 모델을 구축, 점검, 비교하기 위한 효과적인 전략은 무엇인가?
• RQ4 반복적 워크플로우 내에서 계산, 모델 확장 및 데이터 도입을 어떻게 관리해야 하는가?

주요 결과

• 베이지안 워크플로우는 사후 분포 계산뿐만 아니라 모델 구축, 추론, 점검 및 반복적 개선을 포괄한다.
• 사전 예측 점검과 생성적 모델링은 데이터 행태를 예측하고 사전분포 및 모델 구조를 안내하는 데 도움을 준다.
• 모듈식 모델 구성과 매개변수 스케일링은 해석 가능성과 계층적 모델링을 용이하게 한다.
• 추론 진단(예: 워밍업, 혼합, 수렴)은 신뢰할 수 있는 결과와 모델 탐색의 효율성을 위해 필수적이다.
• 다중 모델의 비교 및 시각화는 불확실성과 결론의 강건성을 이해하는 데 핵심이다.
• 예시(Golf putting; Planetary motion)는 새 데이터와 계산상의 도전에 따라 모델이 어떻게 진화하는지 보여 주며 반복적 워크플로우를 강조한다.