[論文レビュー] Decoupled Contrastive Multi-View Clustering with High-Order Random Walks

Yiding Lu, Yijie Lin+4 more|arXiv (Cornell University)|Aug 22, 2023

Video Surveillance and Tracking Methods被引用数 4

ひとこと要約

本稿では、類似度グラフ上の高次ランダムウォークを用いて誤って否定とされる例（FN）および誤って肯定とされる例（FP）を同定する、新たな対照的マルチビュークラスタリング手法DIVIDEを提案する。この手法により、局所的近傍に基づくペア選択に起因する問題を克服し、グローバルかつロバストなペア選定が可能になる。また、埋め込み空間を別々に設計することで、視点内および視点間の対照的学習を分離し、クラスタリング性能と欠落した視点に対するロバスト性を向上させ、4つのベンチマークで9つの最先端手法を上回る性能を達成した。

ABSTRACT

In recent, some robust contrastive multi-view clustering (MvC) methods have been proposed, which construct data pairs from neighborhoods to alleviate the false negative issue, i.e., some intra-cluster samples are wrongly treated as negative pairs. Although promising performance has been achieved by these methods, the false negative issue is still far from addressed and the false positive issue emerges because all in- and out-of-neighborhood samples are simply treated as positive and negative, respectively. To address the issues, we propose a novel robust method, dubbed decoupled contrastive multi-view clustering with high-order random walks (DIVIDE). In brief, DIVIDE leverages random walks to progressively identify data pairs in a global instead of local manner. As a result, DIVIDE could identify in-neighborhood negatives and out-of-neighborhood positives. Moreover, DIVIDE embraces a novel MvC architecture to perform inter- and intra-view contrastive learning in different embedding spaces, thus boosting clustering performance and embracing the robustness against missing views. To verify the efficacy of DIVIDE, we carry out extensive experiments on four benchmark datasets comparing with nine state-of-the-art MvC methods in both complete and incomplete MvC settings.

研究の動機と目的

• 局所的近傍に基づくペア選択に起因する、対照的マルチビュークラスタリングにおける継続的な誤って否定とされる例（FN）および誤って肯定とされる例（FP）の問題を解決すること。
• 既存の近傍ベース手法が、すべての近傍内サンプルを肯定とし、すべての近傍外サンプルを否定とみなすという、過剰補正（over-rectification）および不足補正（under-rectification）の問題を克服すること。
• 分離学習アーキテクチャを用いることで、視点固有の情報を保持しつつ、視点間の一貫性を強化することで、クラスタリング性能を向上させること。
• 推論時に一部の視点が欠落する可能性がある不完全なマルチビュー設定下でも、安定した性能を発揮できること。

提案手法

• アフィニティグラフ上でのマルチステップランダムウォークを用いて、アーキテクチャとその近傍間の高次アフィニティを計算し、一次近傍を超えたグローバルなデータペアの同定を可能にする。
• 高次アフィニティにより、近傍内でも異なるクラスタに属するサンプルを負例（FPの低減）とし、近傍外でも同じクラスタに属するサンプルを正例（FNの低減）と特定できる。
• 視点固有のシアンアイスエンコーダとクロスビュー・デコーダを用い、別々の埋め込み空間で視点内および視点間の対照的学習を実行する分離型対照的学習フレームワークを採用。
• トレーニングの安定化のため、オンラインおよびターゲットエンコーダを採用し、EMAベースのモーメンタム更新を適用。全結合ネットワークにはBatchNormおよびReLU層を組み込む。
• ランダムウォーク処理は第100エポックから開始され、遷移行列の可視化により、時間の経過に伴いFNの検出が段階的に進む様子が示された。
• 他の視点からの表現を用いて、ある視点の特徴を再構成するクロスビュー・デコーダを統合し、視点間の一貫性を促進するとともに、視点内と視点間の学習を混合しないように設計。

実験結果

リサーチクエスチョン

• RQ1 アフィニティグラフ上での高次ランダムウォークは、対照的マルチビュークラスタリングにおける誤って否定とされる例（FN）および誤って肯定とされる例（FP）の問題を効果的に低減できるか？
• RQ2 ランダムウォークによるグローバルペア選択は、局所的近傍に基づくペア選択と比較して、クラスタリング精度およびロバスト性において優れているか？
• RQ3 視点内および視点間の対照的学習を分離することで、クラスタリング性能および視点固有の表現学習がどの程度向上するか？
• RQ4 推論時に一部の視点が欠落する不完全なマルチビュー設定下でも、本手法はどの程度の性能を示すか？

主な発見

• DIVIDEは、完全および不完全なマルチビュー設定下において、4つのベンチマークデータセット（Scene-15、Caltech101、Reuters、LandUse21）で最先端の性能を達成した。
• Reutersデータセットでは、ランダムウォークベースのFN補正を適用した場合、第200エポックで59.1%の精度を達成したのに対し、補正なしでは56.2%にとどまり、本手法によるFN同定の有効性が明確に示された。
• t-SNE特徴の可視化から、ランダムウォークベースの補正を適用した後、特に第100エポック以降にクラスタが著しくコンパクトかつ明確に分離されていることが確認された。
• マルチステップランダムウォークから得られた遷移行列は、時間の経過に伴い、真のクラスラベルと徐々に一致するようになり、本手法が一次近傍を超えたクラスタ内サンプルを検出できることを裏付けた。
• 分離アーキテクチャにより、視点固有の情報を保持しつつ、視点間の一貫性を強化し、統合学習フレームワークと比較してクラスタリング性能が向上した。
• 広範なアブレーションスタディにより、ランダムウォーク機構および分離型対照的学習設計の両方が、本手法の優れた性能を実現するために不可欠であることが確認された。