[論文レビュー] Bayesian Workflow

Andrew Gelman, Aki Vehtari+8 more|arXiv (Cornell University)|Nov 3, 2020

Bayesian Modeling and Causal Inference被引用数 137

ひとこと要約

本論文は、モデル構築と適合から検査、比較、ソフトウェア実践に至る包括的なベイズ的ワークフローを示しており、ゴルフのパッティングと惑星運動の例で詳述されている。

ABSTRACT

The Bayesian approach to data analysis provides a powerful way to handle uncertainty in all observations, model parameters, and model structure using probability theory. Probabilistic programming languages make it easier to specify and fit Bayesian models, but this still leaves us with many options regarding constructing, evaluating, and using these models, along with many remaining challenges in computation. Using Bayesian inference to solve real-world problems requires not only statistical skills, subject matter knowledge, and programming, but also awareness of the decisions made in the process of data analysis. All of these aspects can be understood as part of a tangled workflow of applied Bayesian statistics. Beyond inference, the workflow also includes iterative model building, model checking, validation and troubleshooting of computational problems, model understanding, and model comparison. We review all these aspects of workflow in the context of several examples, keeping in mind that in practice we will be fitting many models for any given problem, even if only a subset of them will ultimately be relevant for our conclusions.

研究の動機と目的

• ベイズワークフローを、モデル構築、推論、そしてモデル検査/改善の統合として定義する。
• 分析を理解・制約するために、データ前設計、事前予測チェック、生成モデル化を推進する。
• 不確実性を理解するために、反復的なモデル構築、デバッグ、および複数モデルの比較を推奨する。
• 確率的プログラミング（Stan）を扱う際の実用的な計算上の懸念点、診断、および戦略を強調する。
• 現実の問題におけるベイズ分析を体系化するための指針と例を提供する。

提案手法

• 柔軟性のためにテンプレートとモジュラー構成要素を用いた初期モデル構築を説明する。
• 解釈性と階層モデリングを容易にするためのパラメータのスケーリングと変換を強調する。
• データを観測する前に事前予測チェックを用いて事前の含意を評価することを推奨する。
• 生成モデルと非生成モデルの比較と、予測チェックへの影響について論じる。
• 現代的アルゴリズム（主に Hamiltonian Monte Carlo）と診断実践（例：Rhat、R*）を用いた適合の概要。
• Golf putting および Planetary motion の事例を用いて、反復的なモデル開発のワークフローを示す。

実験結果

リサーチクエスチョン

• RQ1 単なる推論を超えた、実践的で体系的なベイズワークフローとは何か。
• RQ2 事前選択、モデルの展開、計算診断をどのように統合して信頼できる推論を生み出すか。
• RQ3 実世界の問題で、複数のベイズモデルを構築・検査・比較するための効果的な戦略は何か。
• RQ4 反復的なワークフローの中で、計算、モデル拡張、データの組み込みをどのように管理すべきか。

主な発見

• ベイズワークフローは、事後計算だけでなく、モデル構築、推論、検査、反復的改善を包含する。
• 事前予測チェックと生成モデルはデータ挙動を予測するのに役立ち、事前分布とモデル構造を導く。
• モジュール化されたモデル構築とパラメータのスケーリングは、解釈性と階層モデリングを促進する。
• 推論の診断（例：warmup、混合、収束）は、信頼できる結果とモデルの効率的な探索に不可欠である。
• 複数モデルの比較と可視化は、不確実性と結論の頑健性を理解する上で中心的である。
• 例（Golf putting; Planetary motion）は、新しいデータと計算上の課題とともにモデルがどのように進化するかを示し、反復的なワークフローを強調している。