[論文レビュー] Depth and depth-based classification with R-package ddalpha

Oleksii Pokotylo, Pavlo Mozharovskyi+1 more|Kölner Universitäts PublikationsServer (Universität zu Köln)|Aug 14, 2016

Advanced Statistical Methods and Models参考文献 36被引用数 20

ひとこと要約

この論文は、多変量および関数データのためのデータデプスおよびデプスに基づく分類手法を実装するRパッケージddalphaを紹介する。$DD\alpha$-プロシージャを提案し、複数のデプス関数を用いてデータをデプス空間に変換し、$\alpha$-プロシージャ分離器を適用することで、実験的評価において$k$-NNや多項式分類器よりも優れた分類精度を達成するロバストで非パラメトリックな分類器である。

ABSTRACT

Following the seminal idea of Tukey, data depth is a function that measures how close an arbitrary point of the space is located to an implicitly defined center of a data cloud. Having undergone theoretical and computational developments, it is now employed in numerous applications with classification being the most popular one. The R-package ddalpha is a software directed to fuse experience of the applicant with recent achievements in the area of data depth and depth-based classification. ddalpha provides an implementation for exact and approximate computation of most reasonable and widely applied notions of data depth. These can be further used in the depth-based multivariate and functional classifiers implemented in the package, where the $DDα$-procedure is in the main focus. The package is expandable with user-defined custom depth methods and separators. The implemented functions for depth visualization and the built-in benchmark procedures may also serve to provide insights into the geometry of the data and the quality of pattern recognition.

研究の動機と目的

• データデプスおよびデュープスベース分類の包括的でユーザーエクステンシブルなRパッケージの開発。
• 既存のデュープスベース分類器の限界、例えば多項式フィッティングの不安定性や凸包外の点（アウトサイダー）の取り扱いの悪さの是正。
• 高次元および関数データにおける効率的でロバストかつ計算的に実行可能なデュープス計算手法の提供。
• デュープス変換と$\alpha$-プロシージャ分離器を通じた柔軟で非パラメトリックな分類の実現。
• 組み込みのベンチマーキングおよび交差検証手順を用いた実験的パrameterチューニングの支援。

提案手法

• 各トレーニングポイントをq個のクラスそれぞれに対するq次元のデュープス値ベクトルに変換し、デュープス空間を形成する。
• 分類のために、非パラメトリックでロバストかつ計算的に効率的な$\alpha$-プロシージャをデュープス空間に適用する。
• 凸包外に位置するゼロデュープスを持つ「アウトサイダー」を、分類能力を維持するための専用の処理戦略で取り扱う。
• デュープス計算の前処理として、位置-傾き（LS-）変換を用いて関数データ分類をサポートする。
• 半面積、単体、投影、マハラノビスなど、さまざまなデュープス関数に対して、正確および近似アルゴリズムを実装し、パラメータをカスタマイズ可能に設定。
• ユーザーディファインドのデュープス手法および分離器の実装を可能とし、特定のデータジオメトリに適応可能な拡張性と柔軟性を向上。

実験結果

リサーチクエスチョン

• RQ1 計算的に効率的でロバストな方法で、データデュープスを多変量および関数データ分類に効果的に活用するにはどうすればよいか？
• RQ2 計算負荷と分類における不安定性を最小限に抑えつつ、データトポロジーを効果的に保持するデュープス関数は何か？
• RQ3 トレーニングデータの凸包外に位置する点（アウトサイダー）は、性能を損なわずに意味的にどのように分類できるか？
• RQ4 $DD\alpha$-プロシージャの既存のデュープスベースおよび非デュープスベース分類器（例：$k$-NNや多項式分類器）との相対的性能はいかがなものか？
• RQ5 交差検証およびベンチマーキング手順を用いて、デュープス計算および分類のパラメータを自動的にチューニングするにはどうすればよいか？

主な発見

• 実データを用いた実験的評価において、$DD\alpha$-プロシージャは多項式分類器および$k$-NNの両方よりも低い誤差率を達成した。
• $DD\alpha$分類器は、数値的不安定性を引き起こす可能性のある多項式ベースの手法と比較して、優れたロバスト性と安定性を示した。
• 近似デュープス計算（例：ランダム半面積、投影、単体近似）により、制御された精度損失を伴いながらもスケーラブルな解析が可能になった。
• アウトサイダー処理は、複雑な再重み付けを必要とせず、凸包外の点に対しても分類能力を維持する計算的に効率的な解決策を提供した。
• デュープス関数、分離器、パラメータ（例：$L$、$S$、$k$、num.directions）の交差検証により、分類精度が顕著に向上した。
• パッケージのベンチマーキングフレームワークにより、複数のパラメータセットを対象に反復的交差検証を用いた系統的なパrameterチューニングが可能となり、誤差率が推定された。