[論文レビュー] Statistical depth meets computational geometry: a short survey

Peter J. Rousseeuw, Mia Hubert|arXiv (Cornell University)|Jan 1, 2015

Advanced Statistical Methods and Models参考文献 64被引用数 6

ひとこと要約

この論文は、統計的深度と計算幾何学の交差点を調査し、半空間深度などの多変量深度測度の計算アルゴリズムに焦点を当て、ロバスト統計への応用を扱う。特に幾何学的・組合せ的アルゴリズムを用いた、深度、メジアン、深度領域の効率的計算手法を提示しており、出力に依存するアルゴリズムやロバスト回帰・クラスタリングへの関連性といった主な貢献を含む。

ABSTRACT

During the past two decades there has been a lot of interest in developing statistical depth notions that generalize the univariate concept of ranking to multivariate data. The notion of depth has also been extended to regression models and functional data. However, computing such depth functions as well as their contours and deepest points is not trivial. Techniques of computational geometry appear to be well-suited for the development of such algorithms. Both the statistical and the computational geometry communities have done much work in this direction, often in close collaboration. We give a short survey of this work, focusing mainly on depth and multivariate medians, and end by listing some other areas of statistics where computational geometry has been of great help in constructing efficient algorithms.

研究の動機と目的

• 多変量および関数データに対する統計的深度手法への計算幾何学的手法の統合をレビューすること。
• 高次元データにおける深度関数、深度等高線、最深点の計算という計算課題に取り組むこと。
• Tukey深度、回帰深度、および関連するロバスト推定量の計算における効率性を向上させるアルゴリズムを強調すること。
• 幾何学的アルゴリズムが多変量および関数データ解析における統計的ロバスト性と外れ値検出をどのように向上させるかを示すこと。
• 深度に基づく推論および計算統計における未解決問題と今後の研究方向性を特定すること。

提案手法

• データの中心性の中心的測度として半空間深度（Tukey深度）を用い、点θを通り、その点を含む閉半空間に含まれる点数の最小値として定義される。
• 高次元の深度計算を低次元問題に還元するために、射影、双対性、配置（arrangements）などの幾何学的技術を適用する。
• 特に高次元においても効率的に深度領域とTukeyメジアンを計算する出力に依存するアルゴリズムを活用する。
• トポロジカルスイープや混合整数最適化などの計算幾何学的ツールを用いて、ロバスト回帰（例：LMS、繰り返しメジアン）を実装する。
• 外れ値検出と分類に適した、深度領域に基づく幾何的ノルムに類似した測度「bagdistance」を導入する。
• 正確な計算が不可能な大規模またはストリーミングデータに対しては、近似アルゴリズムとインクリメンタル更新を活用する。

実験結果

リサーチクエスチョン

• RQ1 計算幾何学的手法を用いて、多変量深度関数およびその等高線をどのように効率的に計算できるか。
• RQ2 高次元における半空間深度および回帰深度を計算する際のアルゴリズム的複雑性と性能バウンディングは何か。
• RQ3 Tukeyメジアンのような深度に基づくロバスト推定量は、古典的推定量と比べて破壊値（breakdown value）およびアフィン不変性の観点でどのように異なるか。
• RQ4 幾何学的アルゴリズムは、L1回帰やLMS回帰のようなロバスト統計的手法の効率性をどのように向上させ得るか。
• RQ5 bagdistanceのような深度に基づくツールは、関数データ解析および分類にどのように形式化され、適用可能か。

主な発見

• Tukeyメジアンの破壊値は少なくとも1/(d+1)であり、汚染に対して非常にロバストであり、楕円対称性下では理論的破壊値が1/3に達する。
• Rdにおける半空間深度の出力に依存するアルゴリズムは、時間計算量O(nd−1 log n)を達成し、ナイーブなO(nd+1)手法と比べて顕著に改善される。
• 二次元データでは、トポロジカルスイープによりLMS回帰のO(n²)アルゴリズムが可能であり、ランダム化アルゴリズムによりメジアンスロープ回帰はO(n log n)の複雑性を達成する。
• 深度領域から導出されるbagdistanceは、負のスカラーにおける斉次性を除き、すべてのノルム公理を満たし、ロバストな距離に基づく推論を可能にする。
• 半空間深度およびTukeyメジアンの近似アルゴリズムとして、勾配降下法やランダム化手法が存在し、大規模またはストリーミングデータに適している。
• 計算幾何学的手法により、クラスタリング、回帰、深度計算の効率的解決が可能となり、NP困難性の結果から幾何学的ヒューリスティクスと近似法の必要性が浮き彫りになる。