[論文レビュー] Equitability Analysis of the Maximal Information Coefficient, with Comparisons

David N. Reshef, Yakir Reshef+2 more|arXiv (Cornell University)|Jan 27, 2013

Advanced Statistical Methods and Models参考文献 13被引用数 71

ひとこと要約

本稿は、最大情報係数（MIC）の公平性（equitability）を分析し、その正規化および最大化のステップが、多様なノイズモデルや標本サイズにおいて高い公平性を達成するために不可欠であることを示している。MICは、関数的形態にかかわらずノイズレベルが同等の関係に対して類似したスコアを付与する設計を有しているため、ノイズの多い関係を同定する際、相互情報量推定や距離相関よりも公平性に優れている。特に標本サイズが5,000未満の状況で顕著である。

ABSTRACT

A measure of dependence is said to be equitable if it gives similar scores to equally noisy relationships of different types. Equitability is important in data exploration when the goal is to identify a relatively small set of strongest associations within a dataset as opposed to finding as many non-zero associations as possible, which often are too many to sift through. Thus an equitable statistic, such as the maximal information coefficient (MIC), can be useful for analyzing high-dimensional data sets. Here, we explore both equitability and the properties of MIC, and discuss several aspects of the theory and practice of MIC. We begin by presenting an intuition behind the equitability of MIC through the exploration of the maximization and normalization steps in its definition. We then examine the speed and optimality of the approximation algorithm used to compute MIC, and suggest some directions for improving both. Finally, we demonstrate in a range of noise models and sample sizes that MIC is more equitable than natural alternatives, such as mutual information estimation and distance correlation.

研究の動機と目的

• 依存度測度における公平性の理論的および実用的基盤を、特に高次元データ探索の文脈で調査すること。
• MICの定義における正規化および最大化のステップが、他の依存度測度と比較して公平性を達成するために不可欠であるかどうかを特定すること。
• 近似アルゴリズムのパラメータがMICの実行時間および正確性に与える影響を評価し、アルゴリズム的誤差が公平性の逸脱に寄与するかどうかを検証すること。
• 複数のノイズモデルおよび標本サイズにおいて、MICの公平性を相互情報量推定および距離相関と比較すること。
• MICの公平性がその設計由来であるのか、それとも相互情報量の固有の性質由来であるのかを検討し、公平性と統計的パワーのトレードオフを評価すること。

提案手法

• ノイズを含む関数的関係の文脈における公平性の形式的定義を用いる：ある測度が公平であるとは、関数的型にかかわらず同じノイズレベルを有する関係に対して類似したスコアを付与するものである。
• 制御されたノイズレベルを有するテスト関数（例：線形、指数関数的、正弦波的）を用いて、6種の異なるノイズモデル下での多様な関係タイプをシミュレートする。
• n=500、n=5,000、n=10,000、n=20,000の標本サイズにおいて、MICを相互情報量（Kraskovらの推定器を用いて）および距離相関と比較する。
• 正規化または最大化のステップを削除したMICの変種を分析し、各コンponentが公平性に与える寄与を分離する。
• 近似アルゴリズムのパラメータ（例：グリッド解像度、反復回数）を変化させることで、速度と正確性のトレードオフを評価する。
• 同じR²値を有する関係におけるMICスコアの標準偏差を用いて公平性を測定し、低い値がより高い公平性を示す。

実験結果

リサーチクエスチョン

• RQ1 MICの定義における正規化および最大化のステップは、公平性を達成するために不可欠であるのか。それとも、相互情報量のような単純な測度でも同等の公平性を達成できるのか。
• RQ2 相互情報量推定におけるスムージングパラメータの選択が、異なるノイズモデルおよび標本サイズにおいてMICと比較して公平性に与える影響はいかほどか。
• RQ3 MIC近似アルゴリズムによって生じる誤差が、理想の公平性からの逸脱にどの程度寄与しているか。
• RQ4 特に標本サイズが制限されている状況において、MICの公平性が距離相関および相互情報量と比較してどの程度優れているか。
• RQ5 アルゴリズム的パラメータを調整することで、公平性の著しい損失なしにMICをより効率的に計算できるか。

主な発見

• MICにおける正規化および最大化のステップは、公平性を達成するために不可欠である。これらのいずれかを除去すると、すべてのノイズモデルにおいて公平性が著しく低下する。
• n=500のとき、MICは相互情報量推定よりも顕著に公平性に優れている。特に水平方向および垂直方向のノイズが重畝る状況では、同じR²を持つ関係に対して相互情報量のスコア差が最大0.65に達する。
• n=5,000であっても、大多数のノイズモデルにおいてMICは相互情報量の公平性を上回るが、垂直方向ノイズのみのモデルでは性能が同等である。
• 水平方向ノイズのみのモデルでは、同じノイズレベルの関係に対して相互情報量のスコア差が最大0.88に達するため、公平性が著しく低い。一方、MICは一貫したスコアを維持する。
• 報告されたMIC値の公平性からの逸脱は、近似アルゴリズムの誤差に起因する部分がある。これは、より良いアルゴリズムによりMICの性能を向上させられる可能性を示唆している。
• MIC近似アルゴリズムのデフォルトパラメータは、公平性の損失を最小限に抑えつつ実行時間を著しく短縮できるように調整可能であり、実用的応用における最適化の余地があることを示している。