[論文レビュー] Parsimonious mixtures of contaminated Gaussian distributions with application to allometric studies

Antonio Punzo, Paul D. McNicholas|arXiv (Cornell University)|May 20, 2013

Bayesian Methods and Mixture Models被引用数 3

ひとこと要約

本稿では、外れ値の割合と汚染度の自動推定を前提としていない、外れ値に頑健なモデルベースクラスタリングを目的とした、汚染ガウス分布に基づく簡素化された有限混合モデルを提案する。この手法は、共分散構造の簡素化に固有値分解を用い、標準的な楕円型混合モデルと比較して、アロトロピック研究およびシミュレーションにおいて優れた性能を示す。

ABSTRACT

A mixture of contaminated Gaussian distributions is developed for model-based clustering. In addition to the parameters of the classical Gaussian mixture, each component of our contaminated mixture has a parameter controlling the proportion of outliers, spurious points, or noise (collectively referred to as bad points herein) and one specifying the degree of contamination. Crucially, these parameters do not have to be specified a priori, adding a flexibility to our approach. Parsimony is introduced via eigen-decomposition of the component covariance matrices, and sufficient conditions for the identifiability of all the members of the resulting family are provided. An expectation-conditional maximization algorithm is outlined for parameter estimation and various implementation issues are discussed. Using a large scale simulation study, we investigate the behavior of the proposed approach and we provide a comparison with finite mixture models of some well-established multivariate elliptical distributions. The performance of this novel family of models is also illustrated on artificial and real data, with particular emphasis to the application in allometric studies.

研究の動機と目的

• クラスタリング応用における外れ値およびノイズデータを明示的に取り入れた柔軟な有限混合モデルの開発。
• 汚染パラメータ（外れ値の割合および度合い）の事前指定を必要としない、自動推定の実現。
• 成分パラメータに関する十分な条件を用いて、モデルの同定可能性を保証。
• 測定誤差や極端値を含むデータが多く見られるアロトロピック研究へのモデルの適用。
• シミュレーションおよび実データを用いた、確立された多次元楕円型混合モデルとの性能比較。

提案手法

• 従来のガウス有限混合モデルに、外れ値／ノイズの割合を表す成分固有のパラメータと、汚染度を表すもう一つのパラメータを追加することで拡張。
• 成分共分散行列の固有値分解を用いることで、自由パラメータの数を削減し、簡素化を実現。
• 尤度関数の反復最適化を可能にする、期待値-条件付き最大化（ECM）アルゴリズムを用いたパラメータ推定。
• 混合族のすべての成分の同定可能性を保証する十分条件を形式的に導出し、提示。
• 高次元設定における数値的安定性と収束性に配慮した実装。
• 尤度に基づく基準を用いてモデル適合を評価し、標準的な楕円型混合モデルと比較。

実験結果

リサーチクエスチョン

• RQ1 汚染度の事前知識がなくても、外れ値およびノイズに頑健な有限混合モデルをどのように構築できるか？
• RQ2 簡素化された共分散構造を有する汚染ガウス混合モデルにおいて、成分の同定可能性を保証する条件は何か？
• RQ3 外れ値や測定誤差を含むデータにおいて、特にアロトロピック研究において、提案手法のクラスタリング性能はいかがなものか？
• RQ4 シミュレーションおよび実データのシナリオにおいて、汚染ガウス混合モデルの性能は、標準的な楕円型混合モデルと比べてどうなるか？
• RQ5 汚染パラメータの自動推定は、実際のクラスタリング精度および頑健性を向上させることができるか？

主な発見

• 提案された汚染ガウス混合モデルは、事前指定を必要とせず、外れ値の割合と汚染度の両方を効果的に推定できた。
• 固有値分解の使用により、モデルの柔軟性と解釈可能性を保ちつつ、共分散行列の簡素化モデリングが可能となった。
• 混合族のすべての成分の同定可能性を保証する十分条件が確立され、統計的妥当性が確保された。
• シミュレーション結果から、汚染や外れ値が存在する状況でも、標準的な有限混合モデルを上回る性能を示した。
• 実際のアロトロピックデータに対して、測定誤差や極端観測値を効果的に処理する強力な実証的性能を示した。
• ECMアルゴリズムは信頼性があり、多様なデータ構成において安定したパラメータ推定を提供した。