[論文レビュー] Deep Multiview Clustering by Contrasting Cluster Assignments

Jie Chen, Hua Mao+2 more|arXiv (Cornell University)|Apr 21, 2023

Video Analysis and Summarization参考文献 39被引用数 4

ひとこと要約

本稿では、複数のビュー間でクラスタ割り当てを対比することで、視点不変表現学習を強化する2段階のディープマルチビュークラスタリング手法であるクロスビュー対比学習（CVCL）を提案する。クラスタレベルの対比損失によりソフトクラスタ割り当てを整合化することで、7つのマルチビューデータセットにおいて最先端の性能を達成し、特に事前学習段階でベースライン手法に顕著な向上を示した。

ABSTRACT

Multiview clustering (MVC) aims to reveal the underlying structure of multiview data by categorizing data samples into clusters. Deep learning-based methods exhibit strong feature learning capabilities on large-scale datasets. For most existing deep MVC methods, exploring the invariant representations of multiple views is still an intractable problem. In this paper, we propose a cross-view contrastive learning (CVCL) method that learns view-invariant representations and produces clustering results by contrasting the cluster assignments among multiple views. Specifically, we first employ deep autoencoders to extract view-dependent features in the pretraining stage. Then, a cluster-level CVCL strategy is presented to explore consistent semantic label information among the multiple views in the fine-tuning stage. Thus, the proposed CVCL method is able to produce more discriminative cluster assignments by virtue of this learning strategy. Moreover, we provide a theoretical analysis of soft cluster assignment alignment. Extensive experimental results obtained on several datasets demonstrate that the proposed CVCL method outperforms several state-of-the-art approaches.

研究の動機と目的

• ディープマルチビュークラスタリングにおける一貫性のある視点不変表現の学習という課題に対処すること。
• 複数のビュー間で意味的ラベル情報の明示的整合化により、クラスタリング性能を向上させること。
• 生の特徴量や埋め込みではなく、クラスタ割り当てを対比するクラスタレベルの対比学習戦略を開発すること。
• ソフトクラスタ割り当ての整合化における理論的基盤を提供すること。
• 多様なマルチビューデータセットを用いた広範な実験とアブレーションスタディにより、提案手法の有効性を検証すること。

提案手法

• 本手法は2段階の訓練スキームを採用する：まず深層オートエンコーダーを用いた事前学習によりビュー固有の特徴を抽出し、その後対比学習によるファインチューニングを行う。
• ビュー間でK次元のクラスタ割り当て確率を対比するクラスタレベルのクロスビュー対比学習（CVCL）戦略を導入する。
• 対比損失は、同じデータサンプルが複数のビューに存在するポジティブペアに対して類似したクラスタ割り当てを促進し、ネガティブペアに対しては離隔を促進する。
• 全体の損失関数には再構成損失、クラスタ割り当て対比損失、およびソフト割り当ての整合性正則化項が組み込まれている。
• モデルはビュー固有のエンコーダーと共有のクラスタリングヘッドを用い、クラスタ割り当てを生成するが、対比学習によりビュー間での整合性が強制される。
• ある条件下でソフトクラスタ割り当ての整合化が実現可能であることを示す理論的分析が提供されている。

Figure 1: The framework of CVCL. Each view contains two modules, including a view-specific autoencoder module and a CVCL module. The multilayer perceptron (MLP) consists of multiple linear layers. The view-specific autoencoder module contains the encoding part and the decoding part, i.e., $\left\{{f

実験結果

リサーチクエスチョン

• RQ1 複数のビュー間でクラスタ割り当てを対比させることで、ディープマルチビュークラスタリングにおける視点不変表現の学習が向上するか？
• RQ2 本手法のクラスタレベル対比学習戦略は、特徴量や埋め込み空間の整合化に焦点を当てる既存の対比学習手法と比べてどのように異なるか？
• RQ3 事前学習段階が、特に小さなデータセットにおいてクラスタリング性能を向上させるにあたり、果たす貢献は何か？
• RQ4 損失関数のハイパーパrameter α および β に対して、モデルの性能はどれほど感度を示すか？
• RQ5 提案フレームワークにおけるソフトクラスタ割り当ての整合化の理論的根拠は何か？

主な発見

• 提案されたCVCL手法は、7つのマルチビューデータセットにおいて、既存のディープMVC手法を上回る最先端の性能を達成した。
• 事前学習段階はクラスタリング性能を顕著に向上させ、特にMSRC-v1データセットでは、ファインチューニングのみのバージョンと比較してACCが5.24%、18.81%、15.24%向上した。
• MNIST-USPS や Fashion などの大きなデータセットでは、事前学習とファインチューニングの性能差が縮小し、ACC向上は0.08%〜0.22%にとどまった。
• アブレーションスタディにより、クラスタ割り当て対比損失（L_a）が極めて重要であることが確認され、これを除去するとクラスタリング性能が著しく低下した。
• 大きなデータセットではαおよびβの値にかかわらず安定した性能を示したが、MSRC-v1のような小さなデータセットでは性能の変動がやや大きかった。
• 収束解析により、再構成損失および対比損失関数が訓練中に安定して減少し、収束することが確認され、最適化の安定性が裏付けられた。