[論文レビュー] Efficient model-based clustering with coalescents: Application to multiple outcomes using medical records data

Ricardo Henao, Joseph E. Lucas|arXiv (Cornell University)|Aug 10, 2016

Bayesian Methods and Mixture Models参考文献 14被引用数 3

ひとこと要約

本稿では、共役型ベイジアン階層的クラスタリングのための効率的な逐次モンテカルロサンプリング手法を提案し、2次時間計算量で多変量かつ非i.i.d.データのスケーラブルなモデリングを可能にした。電子カルテを用いた複数の相関のあるアウトカムの同時モデリングにおいて、予測精度を向上させ、小さなデータセットや実世界の応用において、グリーディ法および標準的な階層的クラスタリング手法を上回った。

ABSTRACT

We present a sequential Monte Carlo sampler for coalescent based Bayesian hierarchical clustering. The model is appropriate for multivariate non-\iid data and our approach offers a substantial reduction in computational cost when compared to the original sampler. We also propose a quadratic complexity approximation that in practice shows almost no loss in performance compared to its counterpart. Our formulation leads to a greedy algorithm that exhibits performance improvement over other greedy algorithms, particularly in small data sets. We incorporate the Coalescent into a hierarchical regression model that allows joint modeling of multiple correlated outcomes. The approach does not require {\em a priori} knowledge of either the degree or structure of the correlation and, as a byproduct, generates additional models for a subset of the composite outcomes. We demonstrate the utility of the approach by predicting multiple different types of outcomes using medical records data from a cohort of diabetic patients.

研究の動機と目的

• 多変量かつ非i.i.d.データ、特に複雑な相関構造を有する医療記録を対象としたスケーラブルなベイジアン階層的クラスタリング手法の開発。
• 逐次モンテカルロサンプリングを用いて、共役型クラスタリングの計算コストを立方体から2次時間に削減。
• 相関構造の事前知識がなくても、複数の相関のあるアウトカムを同時にモデリング可能にし、医療分野の応用における予測精度を向上。
• 特に小さなデータセットにおいて顕著な性能向上が得られるように、既存のグリーディ法およびMCMCベースのクラスタリングアルゴリズムを改善。

提案手法

• 階層的クラスタリングをモデル化するため、二分木構造上の非パラメトリック事前分布としてKingmanの共役型を用いる。
• 2次時間推論を可能にする、新しい提案分布を備えた逐次モンテカルロ（SMC）サンプラーを採用。
• 小さなデータセットにおける性能向上を図るため、わずかな補正を施したグリーディ近似を導入。
• 共役型事前分布を階層回帰モデルに組み込み、電子カルテにおける複数の相関のあるアウトカムを同時にモデリング。
• 再サンプリングと重み付けを伴う粒子ベースの推論スキームを用いて、木構造および潜在的クラスタ平均の事後分布を近似。
• 運動キャプチャデータにおける時間的依存性をモデル化するため、二乗指数型共分散関数を用い、構造の妥当性を検証。

実験結果

リサーチクエスチョン

• RQ1 逐次モンテカルロサンプリングを用いることで、共役型ベイジアンクラスタリングを多変量かつ非i.i.d.データに効率的にスケーリングできるか？
• RQ2 提案されたSMCベースの推論は、既存のMCMCおよびグリーディアルゴリズムと比較して、計算コストおよびクラスタリング精度の面でどのように差をつけるか？
• RQ3 複数の相関のあるアウトカムの同時モデリングは、電子カルテにおける予測性能をどの程度向上させるか？
• RQ4 提案されたグリーディ補正は、特に小さなデータセットにおいて、クラスタリング品質に測定可能な改善をもたらすか？
• RQ5 共役型事前分布を組み込んだ階層回帰モデルは、運動キャプチャデータや糖尿病患者記録などの実世界データにおいて、生物学的または臨床的に妥当な構造を回復できるか？

主な発見

• 提案されたSMCベースの推論は2次時間計算量を達成し、元の立方体計算量のサンプラーと比較して実行時間が顕著に短縮された。
• 補正付きグリーディ法は、標準的なグリーディ法および階層的クラスタリング（HC）と比較してARIスコアで優れた性能を示し、特に小さなデータセットで顕著であった。AUCは0.85（HC：0.84）であった。
• 提案されたSMCベースの手法MPost2は、最高のAUC（0.86 ± 0.008）を達成し、元のMPost2実装と比較して10倍速くなった。
• 運動キャプチャデータでは、推定された木構造が解剖学的知識と整合しており、四肢および頭部の明確なクラスタリングが得られ、融合タイミングが物理的近接性を反映していた。
• 相関構造の事前知識がなくても、糖尿病患者データにおける複数の相関のあるアウトカムを効果的にモデリングでき、予測精度が向上した。
• 反復回数や粒子数の変更に対してもロバストであり、異なる実行間で一貫した木構造が得られた。