[論文レビュー] Deep Multi-View Clustering via Multiple Embedding.

Bingqian Lin, Yuan Xie+2 more|arXiv (Cornell University)|Aug 19, 2018

Video Surveillance and Tracking Methods参考文献 36被引用数 5

ひとこと要約

本稿では、KLダイバージェンスを用いてソフト割り当てを精緻化することで、深層特徴、マルチビュー融合、クラスタリング割り当てを共同で学習するエンド・ツー・エンドのフレームワークであるDeep Multi-View Clustering via Multiple Embedding (DMVC-ME) を提案する。この手法は、補完的なビュー情報を取り入れ、クラスタリングに適した表現を学習することで、画像データセットにおいて優れたクラスタリング性能を達成する。

ABSTRACT

Exploring the information among multiple views usually leads to more promising clustering performance. Most existing multi-view clustering algorithms perform clustering separately: first extracts multiple handcrafted features or deep features, then conducts traditional clustering such as spectral clustering or K-means. However, the learned features may not often work well for clustering. To overcome this problem, we propose the Deep Multi-View Clustering via Multiple Embedding (DMVC-ME), which learns deep embedded features, multi-view fusion mechanism and clustering assignment simultaneously in an end-to-end manner. Specifically, we adopt a KL divergence to refine the soft clustering assignment with the help of a multi-view fused target distribution. The parameters are updated via an efficient alternative optimization scheme. As a result, more clustering-friendly features can be learned and the complementary traits among different views can be well captured. We demonstrate the effectiveness of our approach on several challenging image datasets, where significant superiority can be found over single/multi-view baselines and the state-of-the-art multi-view clustering methods.

研究の動機と目的

• 既存のマルチビュークラスタリング手法が特徴抽出とクラスタリングを別々の段階として扱うため、クラスタリングに最適でない表現が得られることの制限を解消すること。
• エンド・ツー・エンドのアプローチで特徴学習、マルチビュー統合、クラスタリング割り当てを共同最適化することで、クラスタリングに適した深層特徴を学習すること。
• 統一された最適化フレームワークを通じて、複数のビュー間の補完的情報を活用し、クラスタリングパフォーマンスを向上させること。
• KLダイバージェンスを用いて、マルチビュー統合ターゲット分布を介してソフトクラスタリング割り当てを精緻化し、割り当て品質を向上させること。

提案手法

• 本手法は、特徴学習、マルチビュー統合、クラスタリング割り当てを共同で最適化するエンド・ツー・エンドの訓練方式を採用する。
• ソフトクラスタリング割り当ての精緻化をガイドするため、マルチビュー統合ターゲット分布を構築する。
• ネットワークパラメータの更新とクラスタリング割り当ての精緻化を交互に繰り返すことで、特徴と割り当ての共同学習を可能にする。
• 異なるビューからの特徴が統合される共有表現空間を用いることで、識別力の向上を図る。
• 予測されたソフト割り当てを統合ターゲット分布と一致させるために、KLダイバージェンス損失を適用し、一貫性があり正確なクラスタリングを促進する。
• エンド・ツー・エンドのアプローチにより、手作業による特徴抽出を回避し、データから直接深層表現を学習する。

実験結果

リサーチクエスチョン

• RQ1 特徴学習、マルチビュー統合、クラスタリング割り当てのエンド・ツー・エンド共同最適化は、逐次パイプラインと比較してクラスタリングパフォーマンスを向上させるか？
• RQ2 KLダイバージェンスを用いたマルチビュー統合ターゲット分布は、ソフトクラスタリング割り当ての向上にどの程度効果的か？
• RQ3 複数のビュー間の補完的特徴を共同最適化することで、クラスタリング結果はどの程度向上するか？
• RQ4 提案手法は、ベンチマーク画像データセットにおいて、最先端の単一ビューおよびマルチビュークラスタリングベースラインを上回るか？

主な発見

• 提案手法のDMVC-MEは、複数の挑戦的な画像データセットにおいて、単一ビューおよびマルチビュークラスタリングベースラインと比較して顕著な性能向上を達成する。
• 特徴、統合、クラスタリングのエンド・ツー・エンド共同最適化は、逐次的手法と比較して、よりクラスタリングに適した表現を生成する。
• KLダイバージェンスとマルチビュー統合ターゲット分布を用いることで、ソフトクラスタリング割り当ての品質が向上する。
• 本手法は、異なるビュー間の補完的情報を効果的に捉え、全体のクラスタリングパフォーマンスを向上させる。
• 実験結果により、ベンチマークデータセットで最先端のパフォーマンスが確認され、提案フレームワークの有効性が裏付けられる。