[論文レビュー] A Bayesian Approach to Restricted Latent Class Models for Scientifically-Structured Clustering of Multivariate Binary Outcomes

Zhenke Wu, Livia Casciola‐Rosen+2 more|arXiv (Cornell University)|Aug 24, 2018

Bayesian Methods and Mixture Models参考文献 36被引用数 6

ひとこと要約

本稿では、特徴量が潜在クラスを定義するのを示す事前知識を組み込むための設計行列 Γ を用いて、科学的制約のもとでの多次元バイナリデータのクラスタリングを目的としたベイズ型制限付き潜在クラスモデル（RLCM）を提案する。この手法は、同時にクラスタ数、潜在クラスパターン、測定誤差率を推定し、自己抗体検出や疾患病因研究などの応用分野において、スパarsity（スパarsity）と科学的妥当性を情報的事前分布によって強制することにより、正確性と解釈可能性を向上させる。

ABSTRACT

In this paper, we propose a general framework for combining evidence of varying quality to estimate underlying binary latent variables in the presence of restrictions imposed to respect the scientific context. The resulting algorithms cluster the multivariate binary data in a manner partly guided by prior knowledge. The primary model assumptions are that 1) subjects belong to classes defined by unobserved binary states, such as the true presence or absence of pathogens in epidemiology, or of antibodies in medicine, or the "ability" to correctly answer test questions in psychology, 2) a binary design matrix $Γ$ specifies relevant features in each class, and 3) measurements are independent given the latent class but can have different error rates. Conditions ensuring parameter identifiability from the likelihood function are discussed and inform the design of a novel posterior inference algorithm that simultaneously estimates the number of clusters, design matrix $Γ$, and model parameters. In finite samples and dimensions, we propose prior assumptions so that the posterior distribution of the number of clusters and the patterns of latent states tend to concentrate on smaller values and sparser patterns, respectively. The model readily extends to studies where some subjects' latent classes are known or important prior knowledge about differential measurement accuracy is available from external sources. The methods are illustrated with an analysis of protein data to detect clusters representing auto-antibody classes among scleroderma patients.

研究の動機と目的

• 特徴量と潜在状態の間の既知の生物学的または診断的関係といった、多次元バイナリデータにおける科学的制約を尊重するクラスタリングフレームワークを開発すること。
• クラスタ数と関連する特徴量の構造が未知である状況において、潜在クラスメンバーシップと測定誤差率を推定すること。
• 各潜在クラスにおける関連する特徴量を定義する制限付き設計行列 Γ を用いて、事前知識を統合することで、クラスタリングの正確性と解釈可能性を向上させること。
• 完全なベイズ後部推論アプローチを用いて、クラスタ推定および個々の潜在状態予測における不確実性の定量化を可能にすること。

提案手法

• モデルは、M 個の特徴量のうちの部分集合によって定義される未観測のバイナリ潜在クラスに属する被験者を仮定し、各クラスごとにどの特徴量が関連するかを示すバイナリ設計行列 Γ を使用する。
• 有限混合モデルにディリクレ事前分布を適用し、クラス割り当ての割合に事前分布を設定するとともに、潜在クラス構造におけるスパースパターンを促進する事前分布を導入する。
• 識別可能性を保証する制約のもとで、反復的にクラスタ割り当て、Γ、およびモデルパラメータを更新する新しいMCMCアルゴリズムを用いて後部推論を実行する。
• 各特徴量ごとに異なる測定誤差率を組み込み、一部の被験者において潜在クラスメンバーシップが既知である場合にも対応可能である。
• クラスタ数の小さい組み合わせと特徴量パターンのスパースさを促進するように事前分布を設計し、単純さと解釈可能性を促進する。
• 外部ソースからの測定精度が既知である場合や、部分的に観測された潜在状態を含む状況にも拡張可能である。

実験結果

リサーチクエスチョン

• RQ1 どの特徴量が潜在クラスを定義するかに関する科学的知識を統合することで、多次元バイナリデータのクラスタリング正確性をどのように向上させられるか？
• RQ2 設計行列 Γ を用いて特徴量とクラスの関係を制限することの、クラスタ推定および不確実性定量化に与える影響は何か？
• RQ3 ベイズフレームワーク内で、未知のクラスタ数、各クラスタにおける関連特徴量の構造、測定誤差率を同時に推定する方法は何か？
• RQ4 本手法は、標準的な潜在クラスモデルと比較して、クラスタ回復性能および解釈可能性の面でどのように優れているか？
• RQ5 測定誤差に関する事前知識や、既知の潜在クラスメンバーシップをクラスタリングプロセスに統合する方法は何か？

主な発見

• ベイズ型RLCMは、設計行列 Γ を用いて科学的妥当性を強制することで、クラスタ数が未知の多次元バイナリデータを適切にクラスタリングできた。
• 特に各潜在クラスを定義する特徴量のサブセットのみが関連する場合に、標準的な潜在クラスモデルや階層的クラスタリングよりもクラスタリング正確性が向上した。
• 後部推論は、より少ないクラスタ数と設計行列におけるよりスパースなパターンを好む傾向を示し、生物学的に意味のある限られた特徴量集合の科学的期待と整合的である。
• シミュレーションおよび全身性エリテマトーデスの自己抗体研究からの実データを用いた検証で、特徴量ごとの異なる測定誤差率に対しても本手法が有効に機能した。
• 本手法は、自己抗体複合体の存在や病原体感染の有無といった、被験者ごとの潜在状態の正確な予測を可能にした。
• Rパッケージ「rewind」が本手法を実装しており、バイオメディカルおよび心理測定応用分野での利用を目的として公開されている。