[論文レビュー] GCFAgg: Global and Cross-view Feature Aggregation for Multi-view Clustering

Weiqing Yan, Yuanyang Zhang+5 more|arXiv (Cornell University)|May 11, 2023

Face and Expression Recognition被引用数 5

ひとこと要約

本稿では、グローバルおよびクロスビュー特徴集約を用いてコンSENSUS表現を向上させるとともに、構造誘導型対照学習を活用してビュー固有特徴とコンセンサス特徴を整列させる、GCFAggMVCと呼ばれる新しいマルチビュークラスタリングフレームワークを提案する。本手法は、サンプル間の類似度をモデル化し、複数のビュー間でのクラスタの一貫性を向上させることで、完全および不完全なマルチビュークラスタリングベンチマークの両方で最先端の性能を達成する。

ABSTRACT

Multi-view clustering can partition data samples into their categories by learning a consensus representation in unsupervised way and has received more and more attention in recent years. However, most existing deep clustering methods learn consensus representation or view-specific representations from multiple views via view-wise aggregation way, where they ignore structure relationship of all samples. In this paper, we propose a novel multi-view clustering network to address these problems, called Global and Cross-view Feature Aggregation for Multi-View Clustering (GCFAggMVC). Specifically, the consensus data presentation from multiple views is obtained via cross-sample and cross-view feature aggregation, which fully explores the complementary ofsimilar samples. Moreover, we align the consensus representation and the view-specific representation by the structure-guided contrastive learning module, which makes the view-specific representations from different samples with high structure relationship similar. The proposed module is a flexible multi-view data representation module, which can be also embedded to the incomplete multi-view data clustering task via plugging our module into other frameworks. Extensive experiments show that the proposed method achieves excellent performance in both complete multi-view data clustering tasks and incomplete multi-view data clustering tasks.

研究の動機と目的

• 従来のディープマルチビュークラスタリング手法がビュー単位の統合とサンプルレベルの対照学習に依存しており、サンプル間の構造的関係を十分に活用できないという限界を解決すること。
• すべてのサンプル間のグローバル類似度関係を学習することで、ビュー固有表現におけるノイズと冗長性を低減し、コンセンサス表現を学習すること。
• 構造誘導型対照学習モジュールを用いてビュー固有表現とコンセンサス表現を整列させることで、クラスタリング性能を向上させること。このモジュールは、クラス内類似度を優先する。
• 既存のフレームワークに統合可能な柔軟なモジュールを設計すること。特に、不完全なマルチビューデータのクラスタリングに適していること。

提案手法

• すべてのサンプル間のグローバル類似度行列を学習し、サンプル間の関係に基づいてコンセンサス表現を生成する、グローバルかつクロスビュー特徴集約（GCFAgg）モジュールを設計する。
• 入力データを元に戻すことを目的としたオートエンコーダベースのエンコーダーネットワークを用いて、まずビュー固有表現を学習する。
• 構造誘導型対照学習（SgCL）モジュールは、高い構造的類似度を持つサンプルを、異なるビュー間であってもポジティブペアとして扱うことで、コンセンサス表現とビュー固有表現を整列させる。
• SgCLモジュールは、構造的関係が低いサンプルの表現間の類似度を最小化することで、クラスタの一貫性を向上させる。
• GCFAggとSgCLモジュールを統合したエンドツーエンドの学習パイプラインを構築し、表現学習とクラスタリングの共同最適化を実現する。
• 本手法はモジュラーであり、特に不完全なデータ設定におけるマルチビュークラスタリングフレームワークに容易に統合可能である。

実験結果

リサーチクエスチョン

• RQ1 すべてのサンプル間のグローバルなサンプル間類似度関係は、マルチビュークラスタリングにおけるコンセンサス表現学習を向上させることができるか？
• RQ2 サンプルレベルの対照学習を構造誘導型対照学習に置き換えることで、クラス内表現の整列をより良くし、クラスタリング性能を向上させることができるか？
• RQ3 提案されたGCFAggMVCフレームワークは、完全および不完全なマルチビュークラスタリングタスクの両方で最先端の性能を達成できるか？
• RQ4 提案されたGCFAggモジュールは、コンセンサス表現におけるビュー固有のノイズと冗長性を低減するのにどの程度効果的か？

主な発見

• GCFAggMVCは、完全なマルチビュークラスタリングベンチマークで最先端の性能を達成し、Prokaryoticでは0.6225 ACC、CCVでは0.3543 ACC、MNIST-USPSでは0.9956 ACCを達成した。
• アブレーションスタディの結果、GCFAggモジュールを削除すると、ProkaryoticでACCが18.22%低下し、CCVで14.21%低下し、MNIST-USPSで2.03%低下した。これは、ノイズ低減と表現強化における有効性を示している。
• SgCLモジュールは、標準的な対照学習と比較して、ProkaryoticでACCを14.21%向上、CCVで30.07%向上させた。これは、クラス内類似度を保存する点で優位性を確認した。
• t-SNE可視化により、GCFAggMVCが学習するコンセンサス特徴は、結合されたビュー固有特徴や元の表現よりも明確で、より分離されたクラスタを生成することが確認された。
• ハイパーパrameter λ および τ に対して本手法はロバストであり、広い範囲の値で安定した性能を示した。これは実用性を裏付けた。
• アブレーションスタディにより、GCFAggおよびSgCLの両方のコンponentsが不可欠であることが確認された。いずれかを削除すると、顕著な性能低下が生じた。