[論文レビュー] DealMVC: Dual Contrastive Calibration for Multi-view Clustering

Xihong Yang, Jiaqi Jin+8 more|arXiv (Cornell University)|Aug 17, 2023

Advanced Computing and Algorithms被引用数 7

ひとこと要約

DealMVCは、局所的およびグローバルな対照的損失を共同で最適化することで、複数の視点間での特徴の一貫性を向上させる二重対照的キャリブレーションフレームワークを提案する。視点類似度グラフを高信頼度の疑似ラベルと一致させ、適応的統合を活用することで、8つのベンチマークデータセット上で最先端の手法を上回るクラスタリング性能を実現する。

ABSTRACT

Benefiting from the strong view-consistent information mining capacity, multi-view contrastive clustering has attracted plenty of attention in recent years. However, we observe the following drawback, which limits the clustering performance from further improvement. The existing multi-view models mainly focus on the consistency of the same samples in different views while ignoring the circumstance of similar but different samples in cross-view scenarios. To solve this problem, we propose a novel Dual contrastive calibration network for Multi-View Clustering (DealMVC). Specifically, we first design a fusion mechanism to obtain a global cross-view feature. Then, a global contrastive calibration loss is proposed by aligning the view feature similarity graph and the high-confidence pseudo-label graph. Moreover, to utilize the diversity of multi-view information, we propose a local contrastive calibration loss to constrain the consistency of pair-wise view features. The feature structure is regularized by reliable class information, thus guaranteeing similar samples have similar features in different views. During the training procedure, the interacted cross-view feature is jointly optimized at both local and global levels. In comparison with other state-of-the-art approaches, the comprehensive experimental results obtained from eight benchmark datasets provide substantial validation of the effectiveness and superiority of our algorithm. We release the code of DealMVC at https://github.com/xihongyang1999/DealMVC on GitHub.

研究の動機と目的

• 既存の複数視点クラスタリング手法が同一サンプルの一致にのみ注目し、似ているが異なるサンプルの考慮を怠っているという制限を解決する。
• 異なる視点から得られる意味的に類似したサンプルの視点間一貫性を明示的にモデル化することで、クラスタリング性能を向上させる。
• 対照的キャリブレーションと疑似ラベル正則化を用いて、局所的およびグローバルな特徴表現を統合的に最適化するフレームワークを構築する。
• 適応的統合機構と信頼性の高い疑似ラベルのガイダンスを活用して、特徴表現の品質を向上させる。

提案手法

• 複数の視点エンコーダーからの特徴を統合して、グローバルなクロスビュー特徴表現を生成する適応的統合機構を設計する。
• 視点特徴類似度グラフを高信頼度の疑似ラベルグラフと一致させることで、類似サンプルのクロスビュー一貫性を保つグローバルな対照的キャリブレーション損失を導入する。
• ペアワイズの視点特徴間の一貫性を強制するため、信頼性の高い疑似ラベルを活用して局所的特徴構造を正則化する局所的対照的キャリブレーション損失を提案する。
• 対照的損失と疑似ラベル一貫性の目的関数を用いて、エンドツーエンドの学習により、局所的およびグローバルレベルでのクロスビュー特徴を共同で最適化する。
• 融合モジュール内に学習可能なサンプリングネットワークとアテンションメカニズムを導入し、複数視点特徴を動的に重み付けして統合する。
• t-SNE可視化を用いて、学習された埋め込みにおけるクラスタ構造の改善を確認する。

実験結果

リサーチクエスチョン

• RQ1 似ているが異なるサンプルの視点間一貫性を明示的にモデル化することで、複数視点クラスタリング性能が向上するか？
• RQ2 提案された二重対照的キャリブレーション損失（局所およびグローバル）は、特徴表現およびクラスタリング精度の向上にどの程度効果的か？
• RQ3 適応的統合機構は、モデル全体の性能にどの程度寄与しているか？
• RQ4 特にグローバルおよび局所の対照的損失のトレードオフに敏感であるか、DealMVCのハイパーパramータ設定に対してどれほど頑健か？

主な発見

• DealMVCは、H-DigitおよびSTL-10を含む8つのベンチマークデータセットで最先端の性能を達成し、強力な一般化能力を示した。
• アブレーションスタディの結果、局所またはグローバルの対照的キャリブレーションモジュールを削除すると性能が著しく低下し、両者の個別的および補完的役割が確認された。
• 学習可能なサンプリングとアテンションを備えた適応的統合機構は、単純な連結処理よりも顕著に性能を向上させ、クロスビュー特徴統合における有効性を裏付けた。
• 疑似ラベル一貫性損失は不可欠である：これを削除するとクラスタリング性能が劣化し、特徴学習の安定化および正則化におけるその役割が示された。
• ハイパーパramータ分析から、グローバル損失重みαは性能に強く影響を与える一方、μはわずかな影響にとどまり、グローバル対照的トレードオフに敏感であることがわかった。
• t-SNE可視化により、DealMVCが生の特徴やベースラインと比較して、より判別力があり、明確に分離されたクラスタ構造を学習していることが確認された。