[論文レビュー] Double Self-weighted Multi-view Clustering via Adaptive View Fusion

Xiang Fang, Yuchong Hu|arXiv (Cornell University)|Nov 20, 2020

Remote-Sensing Image Classification参考文献 24被引用数 7

ひとこと要約

本稿では、ノイズや冗長性を低減するために特徴レベルおよびビュー レベルの適応的重み付けを適用することで、マルチビュークラスタリングを向上させる、新たなフレームワークである二重自己重み付きマルチビュークラスタリング（DSMC）を提案する。二重自己重み付けと適応的統合を繰り返し学習することで最適なグラフ表現を学習し、DSMCは6つの実世界データセットで最先端の性能を達成し、クラスタリング精度、NMI、純度の面で従来手法を顕著に上回った。

ABSTRACT

Multi-view clustering has been applied in many real-world applications where original data often contain noises. Some graph-based multi-view clustering methods have been proposed to try to reduce the negative influence of noises. However, previous graph-based multi-view clustering methods treat all features equally even if there are redundant features or noises, which is obviously unreasonable. In this paper, we propose a novel multi-view clustering framework Double Self-weighted Multi-view Clustering (DSMC) to overcome the aforementioned deficiency. DSMC performs double self-weighted operations to remove redundant features and noises from each graph, thereby obtaining robust graphs. For the first self-weighted operation, it assigns different weights to different features by introducing an adaptive weight matrix, which can reinforce the role of the important features in the joint representation and make each graph robust. For the second self-weighting operation, it weights different graphs by imposing an adaptive weight factor, which can assign larger weights to more robust graphs. Furthermore, by designing an adaptive multiple graphs fusion, we can fuse the features in the different graphs to integrate these graphs for clustering. Experiments on six real-world datasets demonstrate its advantages over other state-of-the-art multi-view clustering methods.

研究の動機と目的

• すべての特徴に同じ重みを割り当ててしまう、既存のマルチビュークラスタリング手法の限界を是正すること。
• 各ビューにおける好ましい特徴を強調し、不適切な特徴を抑制する最適なグラフ表現を学習することで、クラスタリングのロバスト性を向上させること。
• 各グラフの信頼性と寄与度に基づいて動的重みを割り当てることで、複数のビューを適応的に統合すること。
• 特徴レベルおよびビュー レベルの自己重み付けを統合した効率的で収束性のある最適化フレームワークを構築し、クラスタリング性能を向上させること。

提案手法

• 各ビューに適応的重み行列を導入し、特徴に異なる重要度を割り当てることで、好ましい特徴の表現を強化し、ノイズや冗長な特徴を抑制する。
• 各グラフの適応的係数を学習することで、二重の自己重み付け操作を実施し、信頼性の高いビューに高い重みを割り当てる。
• 目的関数を最小化するため、重み行列、グラフ表現、統合係数を同時に学習する反復的最適化手順を採用する。
• 学習された重みを用いて、複数のビューにまたがる好ましい特徴を統合する適応的マルチグラフ統合戦略を設計し、全体のクラスタリングのロバスト性を向上させる。
• 統合済みの自己重み付きグラフに対してスペクトルクラスタリングを適用し、最終的なクラスタ割り当てを生成する。
• グラフラプラシアンに対して閉形式解を用い、非凸問題を効率的に解くために交互最適化を採用する。

実験結果

リサーチクエスチョン

• RQ1 高次元データに各ビューで冗長またはノイズの多い特徴が含まれる場合、マルチビュークラスタリングはどのように改善できるか？
• RQ2 適応的特徴レベル重み付けは、マルチビュークラスタリングにおける個々のビューのグラフ品質を向上させることができるか？
• RQ3 適応的ビュー レベル重み付けにより、統合段階で信頼性の高いビューを優先することでクラスタリング性能が向上するか？
• RQ4 特徴レベルおよびビュー レベルの両方で適用される二重自己重み付け機構は、既存手法よりも優れたクラスタリング性能をもたらすか？
• RQ5 固定重みまたは単一重み付けアプローチと比較して、提案手法の適応的統合戦略は収束性およびロバスト性において優れているか？

主な発見

• NUS-WIDE データセットでは、DSMCはMLANと比較してACCを19.8%、NMIを15.07%向上させ、AWPと比較してそれぞれ8.29%、9.90%向上した。
• 20NGs データセットでは、DSMCはMMSCと比較してACCが70.6%、NMIが84.43%向上し、ノイズ耐性の高さが顕著に示された。
• Scene データセットでは、DSMCはMMSCと比較してACCが44.98%、NMIが47.17%向上し、高次元かつ異種のビューを効果的に処理できることが示された。
• BBC データセットでは、SwMCと比較してACCが61.75%向上し、AWPと比較して16.79%向上した。これは、複雑な実世界環境下でも優位性を示している。
• DSMCはすべてのデータセットで10回未満の反復で収束した。これは、高い計算効率と安定した最適化を示している。
• アブレーションスタディの結果、特徴レベルおよびビュー レベルの自己重み付けの両方が不可欠であることが確認され、いずれかのコンponentを削除すると性能が著しく低下した。