[論文レビュー] Generative Partial Multi-View Clustering

Qianqian Wang, Zhengming Ding+3 more|arXiv (Cornell University)|Mar 29, 2020

Video Surveillance and Tracking Methods参考文献 46被引用数 13

ひとこと要約

本稿では、部分的マルチビュークラスタリングのための生成的フレームワークであるGP-MVCを提案する。この手法は、視覚固有のGANを用いて欠損しているビューを生成するとともに、共有表現を同時に学習することで、不完全なマルチビューデータ上での有効なクラスタリングを実現する。本手法は、敵対的学習、適応的融合、エンドツーエンド最適化を活用することで、MNISTなどの大規模データセットを含む複数のベンチマークで最先端の性能を達成する。

ABSTRACT

Nowadays, with the rapid development of data collection sources and feature extraction methods, multi-view data are getting easy to obtain and have received increasing research attention in recent years, among which, multi-view clustering (MVC) forms a mainstream research direction and is widely used in data analysis. However, existing MVC methods mainly assume that each sample appears in all the views, without considering the incomplete view case due to data corruption, sensor failure, equipment malfunction, etc. In this study, we design and build a generative partial multi-view clustering model, named as GP-MVC, to address the incomplete multi-view problem by explicitly generating the data of missing views. The main idea of GP-MVC lies at two-fold. First, multi-view encoder networks are trained to learn common low-dimensional representations, followed by a clustering layer to capture the consistent cluster structure across multiple views. Second, view-specific generative adversarial networks are developed to generate the missing data of one view conditioning on the shared representation given by other views. These two steps could be promoted mutually, where learning common representations facilitates data imputation and the generated data could further explores the view consistency. Moreover, an weighted adaptive fusion scheme is implemented to exploit the complementary information among different views. Experimental results on four benchmark datasets are provided to show the effectiveness of the proposed GP-MVC over the state-of-the-art methods.

研究の動機と目的

• センサ障害、データ損傷、機器故障などにより一部のビューが欠損している状況における不完全マルチビュークラスタリングの課題に対処すること。
• ゼロ値や平均値による補完に依存する既存のPMVC手法の限界を克服し、クラスタリング性能の低下を防ぐこと。
• 共有低次元表現の学習と、GANを用いた現実的な欠損ビューの生成を同時に実現する統合フレームワークの構築。
• NMFやカーネルベースのPMVC手法で一般的に用いられる行列の逆行列計算や逆演算を回避することで、大規模データセットにおける有効なクラスタリングを可能にすること。
• 異なるビュー間の補完的情報を重み付き適応的融合機構を用いて活用することで、クラスタリング性能の向上を図ること。

提案手法

• 利用可能なビューから共有低次元表現を学習するためのマルチビューオートエンコーダを採用し、一貫したクラスタ構造を捉える。
• 他のビューからの共有表現を条件として、視覚固有の生成的対抗ネットワーク（GAN）を導入し、欠損ビューのデータを生成する。
• 生成されたデータが本物のデータと区別がつかないよう、敵対的学習損失を用いてリアルなデータを保証し、表現品質を向上させる。
• 信頼性やクラスタリングへの寄与度に基づき、動的に異なるビューからの特徴を統合する重み付き適応的統合層を実装する。
• 共有表現が事前に定義されたクラスタ分布に一致するよう促進するため、KLダイバージェンスに基づくクラスタリング損失を統合する。
• オートエンコーダ、敵対的学習、統合、クラスタリング損失を組み合わせた複合損失関数を用いて、モデル全体をエンドツーエンドで最適化する。

実験結果

リサーチクエスチョン

• RQ1 ゼロ値や平均値による補完に依存せずに、生成的モデルがマルチビュークラスタリングにおいて欠損ビューを効果的に再構築できるか？
• RQ2 共有表現の学習とビュー生成を同時に最適化することで、不完全マルチビューデータ上でのクラスタリング性能がどのように向上するか？
• RQ3 提案された重み付き適応的統合機構は、異なるビュー間の補完的情報を活用することで、クラスタリング性能をどの程度向上させるか？
• RQ4 既存の手法がメモリ制限により失敗する可能性がある大規模データセット（例：フルMNIST）に対しても、本手法はスケーラブルか？
• RQ5 損失関数の各構成要素（例：オートエンコーダ、敵対的学習、クラスタリング）が、最終的なクラスタリング性能にどの程度寄与しているか？

主な発見

• GP-MVCは4つのベンチマークデータセットで最先端のクラスタリング精度を達成し、欠損率0.9のHWデータセットにおいて、最良のベースライン比で最大5.8%の向上を示した。
• アブレーションスタディの結果、すべての損失成分（AE, AT, FU, KL）を組み合わせた場合に最も高いクラスタリング精度が得られ、HWデータセットにおける欠損率0.9で0.9508の精度を達成した。
• 視覚的に確認された図5より、モデルは現実的な欠損ビューのサンプルを効果的に生成できており、ペアドデータが増えるにつれて生成品質が向上していることが示された。
• GP-MVCは、欠損率が0.9に達する状況下でも、60,000サンプルのフルMNISTデータセットのクラスタリングを唯一成功させた。他の手法はメモリ制限のため失敗した。
• 敵対的学習と適応的統合の導入により性能が著しく向上し、欠損率0.9における精度は、AE + ATの組み合わせで0.7165から、すべての損失を組み合わせた場合に0.9508に上昇した。
• 本モデルは、さまざまな欠損率においても一貫した性能向上を示し、極端な欠損率（0.9）でも安定した性能を発揮しており、優れた一般化能力を示している。