[論文レビュー] Robust principal graphs for data approximation

Alexander N. Gorban, Eugenij Moiseevich Mirkes+1 more|arXiv (Cornell University)|Mar 22, 2016

VLSI and FPGA Design Techniques参考文献 2被引用数 7

ひとこと要約

本稿では、ノイズや外れ値に対して感受性が低いように改善された、従来のエラスティック主グラフを拡張するロバストな主グラフ手法を提案する。ノイズや外れ値の影響を低減するために、トリムドデータ近似項を導入し、ロバスト性半径 $ R_0 $ 内の最も近いデータポイントにのみペナルティを課すことで、計算効率と収束性を維持しながら、ノイズが多い、あるいは複雑な分布においてもグローバルなデータ構造をより良く保持する。この手法は、ゲノムデータおよび合成データセットを用いた実験で有効性が示された。

ABSTRACT

Revealing hidden geometry and topology in noisy data sets is a challenging task. Elastic principal graph is a computationally efficient and flexible data approximator based on embedding a graph into the data space and minimizing the energy functional penalizing the deviation of graph nodes both from data points and from pluri-harmonic configuration (generalization of linearity). The structure of principal graph is learned from data by application of a topological grammar which in the simplest case leads to the construction of principal curves or trees. In order to more efficiently cope with noise and outliers, here we suggest using a trimmed data approximation term to increase the robustness of the method. The modification of the method that we suggest does not affect either computational efficiency or general convergence properties of the original elastic graph method. The trimmed elastic energy functional remains a Lyapunov function for the optimization algorithm. On several examples of complex data distributions we demonstrate how the robust principal graphs learn the global data structure and show the advantage of using the trimmed data approximation term for the construction of principal graphs and other popular data approximators.

研究の動機と目的

• 高次元データにおける主グラフ手法のノイズや外れ値に対する感受性を軽減すること。
• 計算効率や収束性を損なわせることなく、エラスティック主グラフアルゴリズムのロバスト性を向上させること。
• ノイズの多いバックグラウンド分布が存在する中で、クラスターや多様体といった複雑な非線形データ構造を正確に近似できること。
• エラスティックマップやSOMなどの他のデータ近似手法に対しても一般化可能なロバスト化戦略を提供すること。

提案手法

• エラスティックエネルギー関数に、ロバスト性半径 $ R_0 $ 内のデータポイントに限定して影響を与えるトリムドデータ近似項を導入する。
• 遠く離れたポイントの寄与を除外または低減することで、最適化における影響を小さくする。
• リャプノフ関数の性質を保持し、元の手法と同一の分割スキーマを用いることで、最適化アルゴリズムの収束を保証する。
• 局所的なデータ構造から始めて、段階的にグローバルなトポロジーへと拡張するトップロジカルグラマーを用いて、グラフ構造を反復的に構築する。
• 元の空間からのエッジ長の関係を保ちながら、2次元での可視化に平面調和（メトロマップ）レイアウトを採用する。
• ヒトゲノム多様性（HGDPデータセット）を含む実世界のデータに本手法を適用し、ノイズ下でも構造の回復が可能であることを示す。

実験結果

リサーチクエスチョン

• RQ1 どのようにして主グラフ手法を高次元データにおけるノイズや外れ値に対してよりロバストにできるか？
• RQ2 エラスティック主グラフにトリムドデータ近似項を統合しても、計算効率や収束性が損なわれないか？
• RQ3 ロバスト主グラフは、標準的手法と比較して、複雑でノイズの多いデータ分布の真のトポロジーをどの程度正確に回復できるか？
• RQ4 ロバスト性半径 $ R_0 $ は、得られる主グラフの精度と安定性にどのように影響を与えるか？

主な発見

• ロバスト主グラフ手法は、ノイズや外れ値によって著しく損なわれた複雑なデータ分布のグローバル構造を、成功裏に回復した。
• ヒトゲノム多様性（HGDP）データセットにおいて、ロバストな主ツリーは、ネイティブアメリカンとアジア人・オセアニア集団との間で明白なSNPプロファイルの違いを明らかにした。これは2次元PCAでは明確に見えにくかった。
• カラシュおよびパタン集団が、ロバストツリーにおいてヨーロッパ集団に近い位置にマッピングされたが、これは歴史的仮説に一致する潜在的な遺伝的類縁を示唆している。
• 本手法はリャプノフ関数の性質を維持しており、トリムド近似項が導入されても最適化アルゴリズムの収束が保証される。
• ロバスト性半径 $ R_0 $ を用いることで外れ値の影響を制御可能であり、孤立したクラスターやバックグラウンドノイズを含むデータに対しても良好な性能を示した。