[論文レビュー] Variational Mixture Models with Gamma or inverse-Gamma components

Alberto Llera, Diego Vidaurre+2 more|arXiv (Cornell University)|Jul 26, 2016

Bayesian Methods and Mixture Models参考文献 17被引用数 10

ひとこと要約

本稿は、ガンマ分布または逆ガンマ分布を含む混合ガウスモデルに対する完全な解析的変分ベイズ（VB）アルゴリズムを導入し、神経画像診断における効率的で頑健な推論を実現する。提案されたbGIM（ベイズ的ガウス/逆ガンマ混合）モデルは、特に高解像度fMRIデータにおいて、最大尤度法の対比的手法に比べて精度と計算効率で優れており、スパース（GIM）または密度（bGGM）な代替手法よりもよりバランスの取れたソリューションを提供する。

ABSTRACT

Mixture models with Gamma and or inverse-Gamma distributed mixture components are useful for medical image tissue segmentation or as post-hoc models for regression coefficients obtained from linear regression within a Generalised Linear Modeling framework (GLM), used in this case to separate stochastic (Gaussian) noise from some kind of positive or negative "activation" (modeled as Gamma or inverse-Gamma distributed). To date, the most common choice in this context it is Gaussian/Gamma mixture models learned through a maximum likelihood (ML) approach; we recently extended such algorithm for mixture models with inverse-Gamma components. Here, we introduce a fully analytical Variational Bayes (VB) learning framework for both Gamma and/or inverse-Gamma components. We use synthetic and resting state fMRI data to compare the performance of the ML and VB algorithms in terms of area under the curve and computational cost. We observed that the ML Gaussian/Gamma model is very expensive specially when considering high resolution images; furthermore, these solutions are highly variable and they occasionally can overestimate the activations severely. The Bayesian Gauss-Gamma is in general the fastest algorithm but provides too dense solutions. The maximum likelihood Gaussian/inverse-Gamma is also very fast but provides in general very sparse solutions. The variational Gaussian/inverse-Gamma mixture model is the most robust and its cost is acceptable even for high resolution images. Further, the presented methodology represents an essential building block that can be directly used in more complex inference tasks, specially designed to analyse MRI-fMRI data; such models include for example analytical variational mixture models with adaptive spatial regularization or better source models for new spatial blind source separation approaches.

研究の動機と目的

• ガンマ分布および／または逆ガンマ分布を含む混合モデルに対する完全な解析的変分ベイズフレームワークを構築し、既存の最大尤度（ML）手法の限界を克服すること。
• 特に、ML手法が計算コストが非常に高くなる高解像度fMRIデータにおいて、計算効率と頑健性を向上させること。
• 不確実性の定量化を可能にし、空間的正則化モデルやブラインドソース分離などのより大きな推論パイプラインに統合可能な、原理的で明確なベイズ的代替手法を提供すること。
• 新しいVBアルゴリズムの性能を、検出精度（AUC）、活性マップのスパarsity／密度、計算コストの観点から、最先端のML手法と比較すること。

提案手法

• 解析的パラメータ推定を可能にする2つの新規変分ベイズアルゴリズム、bGGM（ベイズ的ガウス／ガンマ混合）およびbGIM（ベイズ的ガウス／逆ガンマ混合）を提案する。
• 多数のパラメータに対して共役事前分布を用い、ガンマおよび逆ガンマ成分の非共役形状パラメータの事後期待値を計算するためにラプラス近似およびテイラー展開を適用する。
• 他のすべてのパラメータに対しては標準的な変分ベイズ更新を採用し、解析的可解性と計算効率を確保する。
• 形状パラメータの非正規化共役事前分布を導入することで、変分推論フレームワーク内での閉形式近似を可能にする。
• 合成データと実際の安静状態fMRIデータを用いて手法を検証し、100名の被験者から4400の空間的マップを抽出して評価を実施する。
• 複数の解像度（1–4 mm）において、AUC、活性マップのスパarsity／密度、計算実行時間の観点から、MLベースのGGMおよびGIMモデルと性能を比較する。

実験結果

リサーチクエスチョン

• RQ1 合成および実際のfMRIデータにおいて、提案された解析的変分ベイズアルゴリズム（bGGMおよびbGIM）は、最大尤度法（GGMおよびGIM）と比較して、検出精度（AUC）においてどの程度優れているか？
• RQ2 特に陽性および陰性の活性化の検出に関して、異なるモデルにおけるスパarsityと感度のトレードオフはいかなるものか？
• RQ3 計算コストは画像解像度に伴いどのようにスケーリングされるか？ また、既存のMLベースの手法と比較して、新しいVB手法が著しく実行時間を短縮できるか？
• RQ4 bGIMモデルは、神経画像診断パイプラインで広く使われているGGMモデルの頑健で効率的な代替手段として機能できるか？
• RQ5 提案されたVBフレームワークは、空間的正則化セグメンテーションや非ガウス源を伴う変分ICAなどのより複雑な推論タスクへどの程度拡張可能か？

主な発見

• bGIMモデルは、すべての指標において最も頑健な性能を示し、GIM（スパースすぎる）やbGGM（過剰に密度が高い）と比較して、感度とスパarsityのバランスが著しく優れている。
• GGMモデルは最も計算コストが高く、特に高解像度（例：1 mm）において実行時間の分散が大きく、大規模fMRI解析には実用的でない。
• bGGMモデルは最も高速であるが、過剰に密度の高い活性マップを生成し、特異性が低く、偽陽性率が高くなる。
• bGIMモデルは、精度と速度の間で良好なトレードオフを達成しており、計算コストの分布がコンパクトで、1 mm解像度でも許容できる実行時間である。
• 対応t検定の結果、bGIMは大多数の評価状況で他のモデルを著しく上回っており、生物学的に妥当な活性パターンの検出において特に顕著である。
• 提案されたVBフレームワークにより、空間的正則化混合モデルや変分ICAなど、より大きなベイズモデルへのガンマ／逆ガンマ成分の効率的統合が可能となり、高価な数値最適化ステップの置き換えが実現された。