[論文レビュー] Model-Based Clustering Using Mixtures of Coalesced Generalized Hyperbolic Distributions

Cristina Tortora, Brian C. Franczak+2 more|arXiv (Cornell University)|Mar 10, 2014

Bayesian Methods and Mixture Models参考文献 59被引用数 1

ひとこと要約

本稿では、多次元重み関数を用いて複数のスケーリングされた一般化双曲分布（GHD）を組み合わせることで、歪んだ、尾が重いデータの柔軟なクラスタリングを可能にする、共alesced一般化双曲分布（GHD）の新規混合モデルを提案する。パラメータ推定にはMMアルゴリズムを、モデル選択にはBICを用い、シミュレートされたデータおよび実データにおいて、有限混合スケューt分布より高いクラスタリング精度を達成した。

ABSTRACT

Mixtures of coalesced generalized hyperbolic distributions (GHDs) are developed by merging the existing finite mixtures of generalized hyperbolic distributions with a novel mixture of multiple scaled generalized hyperbolic distributions (MSGHDs). Our mixture of coalesced GHDs are a special case of a more general mixture of mixtures, specifically they share model parameters and have a common mode. Herein we detail the development of the mixtures of MSGHDs who arise via the implementation of a multi-dimensional weight function, and derive the density of our coalesced distribution. A parameter estimation scheme is developed using the ever-expanding class of MM algorithms and the Bayesian information criterion (BIC) is used for model selection. We use our mixture of coalesced GHDs for clustering and compare them to finite mixtures of skew-t distributions using simulated and real data sets.

研究の動機と目的

• 歪んだおよび尾が重いデータのための柔軟な有限混合モデルを開発すること。そのために、複数のスケーリングされた一般化双曲分布を組み合わせる。
• 既存の有限混合GHDモデルにおける制限を克服するため、モデルパラメータを共有し、共通のモードを持つ共alesced構造を導入すること。
• 新たな多次元重み関数を用いることで、成分分布間でのパラメータ共有を可能とし、クラスタリング性能を向上させること。
• MMアルゴリズムクラスを用いたロバストなパラメータ推定フレームワークと、ベイズ情報基準（BIC）を用いたモデル選択を提供すること。

提案手法

• 多次元重み関数を用いて、パラメータ共有とモード共alescenceを誘導する複数のスケーリングされた一般化双曲分布（MSGHD）の混合を構築する。
• 共alesced一般化双曲分布の密度関数の解析的表現を、混合の混合の特別な場合として導出する。
• 収束性と数値的安定性を保証する反復的パラメータ推定のためのMM（マジョライゼーション・ミニマライゼーション）アルゴリズムを実装する。
• クラスタリングフレームワークにおける最適な成分数とモデル構造の選択のため、ベイズ情報基準（BIC）を適用する。
• 共alesced GHD混合モデルを、シミュレーションデータおよび実世界のデータ分析の両方におけるモデルベースクラスタリングフレームワークに統合する。
• 成分間で共通のモードを維持することで、高次元設定における解釈可能性の向上と過学習の低減を図る。

実験結果

リサーチクエスチョン

• RQ1 共alesced一般化双曲分布の混合は、既存の有限混合モデルと比較して、歪んだおよび尾が重いデータにおけるクラスタリング性能を向上させることができるか？
• RQ2 MSGHDにおける多次元重み関数の使用が、クラスタリングの文脈におけるパラメータ共有とモデル同定可能性に与える影響は何か？
• RQ3 提案手法は、クラスタリング精度とモデル適合度の観点から、有限混合スケューt分布に対してどの程度優れているか？
• RQ4 MMアルゴリズムは、特に高次元または複雑なデータ設定において、共alesced GHD混合モデルのパラメータ推定にどの程度有効に機能するか？
• RQ5 BICに基づくモデル選択戦略は、共alesced GHD混合モデルフレームワークにおいて、最適な成分数を信頼性高く特定できるか？

主な発見

• 提案された共alesced GHD混合モデルは、シミュレーションデータおよび実データの両方において、有限混合スケューt分布よりも優れたクラスタリング性能を達成した。
• 多次元重み関数の使用により、効果的なパラメータ共有とモード共alescenceが実現され、より単純かつ安定したモデル構造が得られた。
• MMアルゴリズムにより、複雑で高次元のデータ設定においても、信頼性が高く収束するパラメータ推定が可能となった。
• BICに基づくモデル選択プロセスにより、混合モデルにおける最適な成分数が的確に特定され、過学習が低減された。
• 共alesced GHDモデルは、歪度および尾の重さに対して強く、クラスタリング精度指標において競合モデルを上回る優れたロバスト性を示した。
• 共alesced分布の密度関数が理論的に整合した基盤を提供しており、モデルベースクラスタリングにおけるさらなる拡張に好適である。