[論文レビュー] Multi-View Kernel Consensus For Data Analysis and Signal Processing.

Moshe Salhov, Ofir Lindenbaum+3 more|arXiv (Cornell University)|Jun 28, 2016

Neural Networks and Applications参考文献 19被引用数 5

ひとこと要約

本稿では、高次元データを複数の属性サブセット（ビュー）に分割することで、低次元の幾何構造の回復を向上させる、マルチビュー・カーネルコンセンサスフレームワークを提案する。複数のビューにわたるコンセンサスを活用することで、高次元への投影によるメトリクス歪みを軽減し、単一ビューまたは連結的手法を上回る内在的データ関係を捉える。

ABSTRACT

The input data features set for many data driven tasks is high-dimensional while the intrinsic dimension of the data is low. Data analysis methods aim to uncover the underlying low dimensional structure imposed by the low dimensional hidden parameters by utilizing distance metrics that consider the set of attributes as a single monolithic set. However, the transformation of the low dimensional phenomena into the measured high dimensional observations might distort the distance metric, This distortion can effect the desired estimated low dimensional geometric structure. In this paper, we suggest to utilize the redundancy in the attribute domain by partitioning the attributes into multiple subsets we call views. The proposed methods utilize the agreement also called consensus between different views to extract valuable geometric information that unifies multiple views about the intrinsic relationships among several different observations. This unification enhances the information that a single view or a simple concatenations of views provides.

研究の動機と目的

• 高次元データにおけるメトリクス歪みが真の低次元幾何構造を隠す問題に対処すること。
• 属性セットの冗長性を活用するために、それらを複数のビューに分割して、より優れたデータ表現を実現すること。
• 内在的データ関係の推定を向上させるために、複数のビューにわたるコンセンサスメカニズムを開発すること。
• 低次元幾何構造の保持において、単一ビューおよび連結ビュー手法を上回ること。

提案手法

• 全属性セットを複数の互いに素なビューに分割することで、データ内の冗長性を活用する。
• 各ビューごとにカーネル行列を計算し、各属性サブセット内の局所的幾何的関係を捉える。
• 一貫性のあるビュー間の合意を重視する重み付き統合戦略を用いて、個々のビューのカーネルを統合し、コンセンサスカーネルを構築する。
• コンセンサスカーネルを次世代のタスク（次元削減やクラスタリングなど）に活用し、潜在的な低次元多様体を明らかにする。
• 融合重みをガイドするため、カーネル整合性指標を用い、幾何的信号が一貫しているビューがより大きな寄与を果たすようにする。

実験結果

リサーチクエスチョン

• RQ1 高次元属性セットの冗長性は、どのように幾何構造回復の向上に活用できるか？
• RQ2 単一ビューまたは連結的手法と比較して、複数ビューにわたるコンセンサスは、どれほどメトリクス歪みを低減するか？
• RQ3 コンセンサスカーネルは、クラスタリングや次元削減などの次世代データ分析タスクにおいて、性能を向上させることができるか？
• RQ4 複数のビューのカーネルを統合する最適な方法は何か？ これにより、内在的データ関係がどのように保持されるか？

主な発見

• 提案されたマルチビュー・カーネルコンセンサス手法は、単一ビューまたは連結的手法よりも、低次元幾何構造の保持が優れている。
• コンセンサスに基づく統合により、ノイズや歪みのある属性が最終的な幾何的表現に与える影響が軽減される。
• 複数のビューにわたる合意を活用することで、クラスタリングおよび次元削減の性能が向上する。
• カーネル整合性指標は、統合プロセスを効果的にガイドし、一貫性のあるビューの寄与を増加させる。