[論文レビュー] Self-supervised Discriminative Feature Learning for Multi-view Clustering.

Jie Xu, Yazhou Ren+5 more|arXiv (Cornell University)|Mar 28, 2021

Video Surveillance and Tracking Methods参考文献 46被引用数 5

ひとこと要約

本稿では、自己教師付き判別的特徴学習を用いたマルチビュークラスタリング（SDMVC）を提案する。この手法は、深層オートエンコーダーを用いて各ビュー固有の特徴を学習し、それらを連結してグローバル特徴を生成し、自己教師付きの疑似ラベルを用いてターゲット分布を統一する。グローバルな判別的情報を抽出し、複数のビュー間で一貫性があり多様なクラスタ割り当てを強制することで、複数のデータセットで最先端の性能を達成する。

ABSTRACT

Multi-view clustering is an important research topic due to its capability to utilize complementary information from multiple views. However, there are few methods to consider the negative impact caused by certain views with unclear clustering structures, resulting in poor multi-view clustering performance. To address this drawback, we propose self-supervised discriminative feature learning for deep multi-view clustering (SDMVC). Concretely, deep autoencoders are applied to learn embedded features for each view independently. To leverage the multi-view complementary information, we concatenate all views' embedded features to form the global features, which can overcome the negative impact of some views' unclear clustering structures. In a self-supervised manner, pseudo-labels are obtained to build a unified target distribution to perform multi-view discriminative feature learning. During this process, global discriminative information can be mined to supervise all views to learn more discriminative features, which in turn are used to update the target distribution. Besides, this unified target distribution can make SDMVC learn consistent cluster assignments, which accomplishes the clustering consistency of multiple views while preserving their features' diversity. Experiments on various types of multi-view datasets show that SDMVC achieves state-of-the-art performance.

研究の動機と目的

• クラスタリング構造が不明瞭なビューがマルチビュークラスタリングに与える悪影響を軽減する。
• 複数のビュー間の補完的情報を活用して、クラスタリングのロバスト性を向上させる。
• クラスタ割り当ての一貫性を保ちながら、特徴の多様性を維持する。
• 反復的に特徴学習とターゲット分布を改善する自己教師付きフレームワークを開発する。
• 多様なマルチビューデータセットで最先端の性能を達成する。

提案手法

• 各個々のビューに対して、深層オートエンコーダーを独立して適用し、埋め込み特徴を学習する。
• すべてのビューからの埋め込み特徴を連結して、ノイズや曖昧なビューの影響を軽減するグローバル特徴を構築する。
• 自己教師付きの方法で疑似ラベルを生成し、すべてのビューにわたる統一されたターゲット分布を構築する。
• 統一されたターゲット分布を用いてマルチビュー判別的特徴学習を実行し、特徴の判別性を向上させる。
• 洗練された特徴を用いて反復的にターゲット分布を更新し、一貫性とクラスタリング品質を向上させる。
• 共有されたターゲット分布を通じてクラスタ割り当てを整列させることで、複数のビュー間でのクラスタリングの一貫性を強制する。

実験結果

リサーチクエスチョン

• RQ1 一部のビューに弱いまたは不明瞭なクラスタリング構造がある場合、どのようにマルチビュークラスタリングを改善できるか？
• RQ2 グローバル特徴の連結は、低品質なビューの悪影響を効果的に軽減できるか？
• RQ3 自己教師付き疑似ラベルは、マルチビュー学習における特徴の判別性をどの程度向上できるか？
• RQ4 統一されたターゲット分布は、多様なビュー間でクラスタリングの一貫性をどのように向上させるか？
• RQ5 提案手法は、ベンチマークとしてのマルチビュークラスタリングデータセットで最先端の性能を達成できるか？

主な発見

• SDMVCは、さまざまなマルチビューデータセットで最先端の性能を達成し、優れたクラスタリング精度を示している。
• グローバル特徴表現を活用することで、クラスタリング構造が不明瞭なビューの悪影響を効果的に軽減している。
• 自己教師付き疑似ラベルにより、反復的な洗練を通じてより判別性の高い特徴を学習できる。
• 統一されたターゲット分布により、すべてのビューで一貫したクラスタ割り当てが成功裏に強制された。
• 高いクラスタリング一貫性を達成しながらも、各ビュー間の特徴の多様性が維持されている。
• 実験結果により、SDMVCが複数のベンチマークデータセットで既存手法を上回ることが確認された。