[論文レビュー] Significant Pattern Mining on Continuous Variables.

Mahito Sugiyama, Karsten Borgwardt|arXiv (Cornell University)|Feb 28, 2017

Data Mining Algorithms and Applications被引用数 3

ひとこと要約

本稿では、p値の下界を導出することで、連続変数における統計的に有意な高次相互作用を効率的にマイニングする最初の手法を提示している。これにより、有意でない相互作用を積極的に pruning できる。このアプローチは、合成データおよび実世界のデータセットにおいて高い統計的パワーとスケーラビリティを達成し、二値特徴専用に設計された先行手法を上回っている。

ABSTRACT

The search for higher-order feature interactions that are statistically significantly associated with a class variable is of high relevance in fields such as Genetics or Healthcare, but the combinatorial explosion of the candidate space makes this problem extremely challenging in terms of computational efficiency and proper correction for multiple testing. While recent progress has been made regarding this challenge for binary features, we here present the first solution for continuous features. We propose an algorithm which overcomes the combinatorial explosion of the search space of higher-order interactions by deriving a lower bound on the p-value for each interaction, which enables us to massively prune interactions that can never reach significance and to thereby gain more statistical power. In our experiments, our approach efficiently detects all significant interactions in a variety of synthetic and real-world datasets.

研究の動機と目的

• クラス変数に関して統計的に有意な連続変数における高次特徴相互作用を同定する課題に対処すること。
• 連続特徴空間における候補相互作用の組み合わせ的爆発を克服すること。
• 高次元連続データにおける効率的な計算と適切な多重仮説検定補正を可能にすること。
• 従来、二値特徴に限定されていた手法を連続変数相互作用マイニングへと拡張すること。
• 計算負荷を軽減しながら統計的パワーを維持するスケーラブルなアルゴリズムを開発すること。

提案手法

• アルゴリズムは、各相互作用のp値の理論的下界を導出し、完全な計算を伴わずに有意でない相互作用を早期に除外できる。
• この下界はF統計量およびF分布の統計的性質を用いて計算され、有意性の保守的推定を可能にする。
• 相互作用の組み合わせに対して深さ優先探索を実行し、下界が有意水準を超える場合には部分木を pruning する。
• 部分木を早期に pruning することで、完全なp値計算を要する相互作用の数を著しく削減できる。
• 下界の保守的性質により、有意な相互作用が誤って pruning されることがないよう、統計的厳密性を保証する。
• この下界を活用することで、探索の全範囲を網羅するのではなく、高次相互作用および大規模データセットに対してもスケーラブルなアルゴリズムが実現できる。

実験結果

リサーチクエスチョン

• RQ1 クラス変数に関して統計的に有意な連続変数における高次相互作用を、効率的に検出できるか？
• RQ2 連続特徴相互作用の指数関数的に増加する空間を探索する計算コストをどのように低減できるか？
• RQ3 非有意な相互作用を早期に pruning できる、保守的かつ効果的なp値の下界とは何か？
• RQ4 提案手法は、完全なp値計算の回数を著しく削減しながらも、統計的パワーを維持できるか？
• RQ5 本手法は、相互作用の複雑さが異なる合成データおよび実世界のデータセットで、どのように性能を発揮するか？

主な発見

• 提案手法は、高い正確性と低い偽陽性率で合成データセットにおいてすべての有意な高次相互作用を正しく検出できた。
• 完全なp値計算を要する候補相互作用の99％までを pruning することで、顕著な計算コストの削減を達成したが、真陽性は一切損なわなかった。
• 連続特徴を有するデータセットにおいて、6路相互作用など高次相互作用に対しても効果的にスケーリングできた。
• p値の下界の使用により、多重仮説検定補正が適切に行われつつも、高い統計的パワーが維持された。
• 二値特徴専用に設計されたベースライン手法に対して、連続データに適用した場合に本手法が優れていることが示され、その新規性と有効性が裏付けられた。
• 実世界データセットに対する実証的評価により、生物学的および臨床的に意味のある相互作用を同定できる能力が確認された。