[論文レビュー] Variational Bayesian modelling of mixed-effects

Jean Daunizeau|arXiv (Cornell University)|Mar 21, 2019

Statistical Methods and Bayesian Inference参考文献 13被引用数 4

ひとこと要約

本稿では、グループ研究における混合効果モデル化のための変分ベイズ枠組みを提示する。この手法により、被験者内および被験者間効果の両方の効率的推定が可能となる。経験的ベイズに類似した反復的・適応的正則化手順を活用することで、統計的パワーを向上させるとともに、被験者間のばらつきを捉えつつ、変分インファレンスによって計算効率を維持する。

ABSTRACT

This note is concerned with an accurate and computationally efficient variational bayesian treatment of mixed-effects modelling. We focus on group studies, i.e. empirical studies that report multiple measurements acquired in multiple subjects. When approached from a bayesian perspective, such mixed-effects models typically rely upon a hierarchical generative model of the data, whereby both within- and between-subject effects contribute to the overall observed variance. The ensuing VB scheme can be used to assess statistical significance at the group level and/or to capture inter-individual differences. Alternatively, it can be seen as an adaptive regularization procedure, which iteratively learns the corresponding within-subject priors from estimates of the group distribution of effects of interest (cf. so-called "empirical bayes" approaches). We outline the mathematical derivation of the ensuing VB scheme, whose open-source implementation is available as part the VBA toolbox.

研究の動機と目的

• 神経画像法および心理的グループ研究におけるベイズ混合効果モデル化の計算的・統計的課題に対処すること。
• 階層的データ構造に伴う被験者内および被験者間の分散成分を扱うスケーラブルな変分インファレンス手法を開発すること。
• 効果の関心対象における個体間差を定量化しつつ、強固なグループレベルの推論を可能にすること。
• 経験的ベイズの原則を変分ベイズ枠組みに統合し、グループレベルのデータから被験者内事前分布を適応的に学習すること。
• 大規模研究における混合効果モデルに対して、マルコフ連鎖モンテカルロ法の計算的に効率的な代替手法を提供すること。

提案手法

• グループレベルおよび被験者レベルの効果をランダム効果としてモデル化する階層的生成モデルを定式化する。
• 平均場因子分解を用いて、モデルパラメータの後部分布を近似するための変分ベイズ推論を適用する。
• 座標上昇変分インファレンス（CAVI）を用いて、ハイパーパラメータおよびランダム効果の更新式を導出する。
• 経験的ベイズの原則を用いて、推定されたグループレベル分布に基づき、反復的に被験者内事前分布を更新する。
• オープンアクセスおよび再現可能性を確保するため、VBA（fMRI解析のための変分ベイズ）ツールボックス内にアルゴリズムを実装する。
• 完全なMCMCサンプリングを回避することで計算効率を確保しつつ、パラメータ推定の正確性を維持する。

実験結果

リサーチクエスチョン

• RQ1 複雑な階層的構造を有するグループ研究における混合効果モデルに、変分ベイズ推論をどのように効果的に適用できるか。
• RQ2 提案手法は、古典的手法と比較して、グループレベル効果の検出における統計的パワーと正確性をどの程度向上させるか。
• RQ3 計算的扱いやすさを維持しつつ、効果の個体間差を信頼性高く捉えることができるか。
• RQ4 経験的ベイズの原則による適応的正則化は、小規模から中規模のサンプル設定においてモデル性能をどのように向上させるか。
• RQ5 この変分フレームワークにおいて、計算効率と推定正確性のトレードオフはどのようなものか。

主な発見

• 提案された変分ベイズ手法は、MCMCと比較して計算コストを削減しつつ、固定効果およびランダム効果の正確な推定を達成する。
• この手法は、関心のある効果における被験者間ばらつきを効果的に捉え、グループレベルデータのより洗練された解釈を可能にする。
• 経験的ベイズの原則を統合することで、グループ分布に基づき被験者内事前分布を適応的にチューニングし、推定の安定性が向上する。
• VBAツールボックスにおけるオープンソース実装により、再現性が確保され、神経画像法および心理的研究コミュニティにおける採用を促進する。
• 正則化および収縮の向上のおかげで、限られたサンプルサイズでもグループレベル効果の検出に優れた性能を示す。
• シミュレーション研究および実世界のデータ応用を通じて妥当性が検証された結果、後部分布近似の正確性が高く維持されている。