[論文レビュー] Non-Linear Fusion for Self-Paced Multi-View Clustering

Zongmo Huang, Yazhou Ren+2 more|arXiv (Cornell University)|Apr 19, 2021

Video Surveillance and Tracking Methods参考文献 30被引用数 7

ひとこと要約

本稿では、自己学習的マルチビュークラスタリングの非線形融合手法NSMVCを提案する。視覚の品質に基づき視覚固有の指数を割り当てることで、ノイズの影響を低減する。正則化子を含まない自己学習メカニズムを統合することで、頑健性と収束性が向上し、複数のベンチマークで線形重み付きおよび自己重み付きMVC手法を上回る性能を示し、正確性、純度、NMIの向上を達成した。

ABSTRACT

With the advance of the multi-media and multi-modal data, multi-view clustering (MVC) has drawn increasing attentions recently. In this field, one of the most crucial challenges is that the characteristics and qualities of different views usually vary extensively. Therefore, it is essential for MVC methods to find an effective approach that handles the diversity of multiple views appropriately. To this end, a series of MVC methods focusing on how to integrate the loss from each view have been proposed in the past few years. Among these methods, the mainstream idea is assigning weights to each view and then combining them linearly. In this paper, inspired by the effectiveness of non-linear combination in instance learning and the auto-weighted approaches, we propose Non-Linear Fusion for Self-Paced Multi-View Clustering (NSMVC), which is totally different from the the conventional linear-weighting algorithms. In NSMVC, we directly assign different exponents to different views according to their qualities. By this way, the negative impact from the corrupt views can be significantly reduced. Meanwhile, to address the non-convex issue of the MVC model, we further define a novel regularizer-free modality of Self-Paced Learning (SPL), which fits the proposed non-linear model perfectly. Experimental results on various real-world data sets demonstrate the effectiveness of the proposed method.

研究の動機と目的

• 視覚の品質のばらつきに起因する課題に対処するため、視覚の信頼性に適応可能な非線形融合戦略の開発を目的とする。
• 線形重み付きおよび均一指数の自己重み付き手法の限界を克服する。これらは信頼できる視覚の影響を弱める一方でノイズを低減する。
• MVCにおける非凸最適化問題を軽減するため、正則化子を含まない自己学習モダリティを導入する。
• 低損失のインスタンスから段階的に学習を進めるプログレッシブトレーニングにより、クラスタリングの頑健性と収束速度を向上させる。
• 統一的で非線形的かつ適応的なフレームワークを用いて、複数のマルチビューデータセットで最先端の性能を達成する。

提案手法

• 視覚の品質に応じて各視覚の損失に異なる指数を割り当てる非線形融合メカニズムを提案する。これにより、汚染された視覚の影響を低減する。
• 正則化子を含まない自己学習（SPL）モダリティを導入する。目的関数は、選択されたインスタンスからのクラスタリング損失のみで構成される。
• プログレッシブトレーニング戦略を採用する。最初は損失が最小のインスタンスから学習を開始し、徐々に損失の高いインスタンスを含めていく。
• パラメータα（開始点）とT（総反復回数）によって制御される自己学習スケジュールを用い、トレーニングセットのサイズを動的に調整する。
• 非凸目的関数を反復アルゴリズムにより最適化する。クラスタ割り当てと視覚固有の指数の更新を交互に繰り返す。
• 視覚レベルの統合においてℓ2,1-ノルムに類似した原理を活用し、各視覚の損失を根拠として、外れ値に対して頑健性を高める。

実験結果

リサーチクエスチョン

• RQ1 視覚固有の指数を用いた非線形融合は、線形または均一指数の融合と比較してマルチビュークラスタリングの性能を向上させることができるか？
• RQ2 正則化子を含まない自己学習メカニズムは、非凸マルチビュークラスタリングにおける最適化の安定性と収束性をどのように向上させるか？
• RQ3 NSMVCは、低品質な視覚の負の影響をどの程度低減し、信頼できる視覚からの信号を保持できるか？
• RQ4 提案手法はハイパーパrameter α と T に対してどの程度感度を示し、多様なデータセットにおいて一貫した性能を維持できるか？
• RQ5 NSMVCにおけるプログレッシブトレーニング戦略は、既存手法と比較して収束速度を速くし、クラスタリング結果の分散を低減するか？

主な発見

• NSMVCは、すべてのデータセットにおいてACC、純度、NMIの観点でベースライン手法、特に個々の視覚でのk-means（KM(1)）および結合特徴でのk-means（KM(All)）を一貫して上回った。
• NSMVCは6つのベンチマークデータセットすべてで平均ACC、純度、NMIが最高であり、特にHandwritten NumeralsおよびMSRCv1で最高の性能を示した。
• 繰り返し実験における標準偏差が低く抑えられており、他の手法と比較してより高い頑健性を示した。
• 収束曲線は約15反復で急速に収束しており、学習が進むにつれて収束が速くなる傾向を示した。
• ハイパーパrameter感度分析の結果、α と T の広い範囲で安定した性能を示し、実用的でハイパーパrameterの調整が容易であることが示された。
• AMGL、DMVC、SAMVCなどの自己重み付きMVC手法と比較して顕著に優れた性能を示し、均一指数ではなく視覚固有の指数が優位であることを確認した。