[論文レビュー] Comment on "Comparing two formulations of skew distributions with special reference to model-based clustering" by A. Azzalini, R. Browne, M. Genton, and P. McNicholas

Geoffrey J. McLachlan, Sharon Lee|arXiv (Cornell University)|Apr 7, 2014

Statistical Distribution Estimation and Applications参考文献 9被引用数 3

ひとこと要約

本稿は、モデルベースクラスタリングにおける歪み t 分布の比較的研究について批判的検討を行い、参照文献における制限付きおよび非制限付きモデルの記述が誤っており、実データセットにおいて非制限付き歪み t 混合モデルが著しく優れたクラスタリング性能を示すことを示している。また、両モデルを包含するより柔軟で計算効率の高い代替手段として、標準的基礎歪み t（CFUST）分布族を提案する。

ABSTRACT

In this paper, we comment on the recent comparison in Azzalini et al. (2014) of two different distributions proposed in the literature for the modelling of data that have asymmetric and possibly long-tailed clusters. They are referred to as the restricted and unrestricted skew t-distributions by Lee and McLachlan (2013a). Firstly, we wish to point out that in Lee and McLachlan (2014b), which preceded this comparison, it is shown how a distribution belonging to the broader class, the canonical fundamental skew t (CFUST) class, can be fitted with essentially no additional computational effort than for the unrestricted distribution. The CFUST class includes the restricted and unrestricted distributions as special cases. Thus the user now has the option of letting the data decide as to which model is appropriate for their particular dataset. Secondly, we wish to identify several statements in the comparison by Azzalini et al.(2014) that demonstrate a serious misunderstanding of the reporting of results in Lee and McLachlan (2014a) on the relative performance of these two skew t-distributions. In particular, there is an apparent misunderstanding of the nomenclature that has been adopted to distinguish between these two models. Thirdly, we take the opportunity to report here that we have obtained improved fits, in some cases a marked improvement, for the unrestricted model for various cases corresponding to different combinations of the variables in the two real datasets that were used in Azzalini et al. (2014) to mount their claims on the relative superiority of the restricted and unrestricted models. For one case the misclassification rate of our fit under the unrestricted model is less than one third of their reported error rate. Our results thus reverse their claims on the ranking of the restricted and unrestricted models in such cases.

研究の動機と目的

• Azzalini ら（2014）による制限付きおよび非制限付き歪み t 分布の最近の比較における誤解を是正すること。
• 非制限付き歪み t 混合モデルが、参照文献で報告された値よりも著しく優れたクラスタリング性能を示すことを実証すること。
• 両モデルを特別なケースとして包含する包括的かつ計算効率の良いモデルとして、標準的基礎歪み t（CFUST）分布を導入すること。
• 今後の研究における制限付きおよび非制限付き歪み t 分布の区別に関する混乱を避けるために、用語の明確化を行うこと。

提案手法

• 制限付きおよび非制限付き歪み t 分布を特別なケースとして包含する広範なクラスとして、標準的基礎歪み t（CFUST）分布を提案する。
• CFUST モデルの適合には、非制限付きモデルと比較してほぼ追加コストがかからないことを示す。
• 実データセットに有限混合 CFUST 分布（FM-CFUST）を適用し、モデル比較を実施する。
• 非制限付きモデルを用いて、crab および AIS という2つの実データセットを再分析し、Azzalini ら（2014）が報告した誤分類率と比較する。
• すべてのモデルに対して同一のパラメータ推定フレームワーク（EM アルゴリズム）を用いることで、公平な比較を確保する。
• 非制限付きモデルは制限付きモデルにネストされていないため、性能評価は各データセットごとに行うべきであり、一般化して行うべきではないことを強調する。

実験結果

リサーチクエスチョン

• RQ1 Azzalini ら（2014）の主張とは対照的に、非制限付き歪み t 混合モデルは、現実のクラスタリングタスクにおいて制限付きモデルを上回る性能を示すのか？
• RQ2 非制限付きモデルと比較して、標準的基礎歪み t（CFUST）分布は最小限の計算コストで適合可能なのか？
• RQ3 Azzalini ら（2014）の報告では、非制限付きモデルの性能が Lee と McLachlan（2014a）の報告と著しく異なるが、その理由は何か？
• RQ4 用語の混乱が、歪み分布研究におけるモデル性能の解釈に与える影響は何か？
• RQ5 CFUST モデルは、制限付きおよび非制限付きモデルの間でのデータ駆動型選択を可能にする包括的フレームワークとして機能できるか？

主な発見

• カブリットデータセットでは、非制限付きモデルの誤分類率（MCR）は 0.11 であり、Azzalini ら（2014）が報告した 0.36 の1/3未満であり、彼らのモデル優位性に関する結論を逆転させた。
• AIS データセットでは、非制限付きモデルが、Azzalini ら（2014）が報告したよりもやや多くの二変量および三変量の組み合わせで制限付きモデルを上回った。これは、制限付きモデルの広範な優位性を主張する彼らの主張を裏付けるものではない。
• 両実データセットにおいて、非制限付きモデルは、参照文献で報告された値と比較して著しく改善されたフィットを達成しており、顕著な性能格差が存在することが示された。
• CFUST クラスを用いることで、非制限付きモデルと同等の計算コストでより柔軟なモデルを適合可能とし、データ駆動型のモデル選択が可能になる。
• Lee と McLachlan（2013a）で用いられた用語は、制限付きモデルが一変量の歪み関数を持つこと、パrameter 空間への制限ではないことを明確に示しており、ABGM での誤解とは対照的である。
• 著者らは、非制限付きモデルが、Lee と McLachlan（2014a）が分析したデータセットを含め、複数の実データセットにおいて一貫して制限付きモデルを上回ることを確認しており、一般化してその性能を外挿することはできないと結論づけている。