[論文レビュー] VIGAN: Missing View Imputation with Generative Adversarial Networks

Chao Shang, Aaron Palmer+4 more|arXiv (Cornell University)|Aug 22, 2017

Generative Adversarial Networks and Image Synthesis参考文献 33被引用数 17

ひとこと要約

本稿では、マルチビューまたはマルチモーダルデータセットにおける完全に欠損したビューの補完を目的とした、生成的対抗ネットワークベースの手法VIGANを提案する。サイクル整合性GANを用いたビュー間のドメインマッピングと、再構成のためのマルチモーダルノイズ除去オートエンコーダーを組み合わせることで、ベンチマークおよび実世界の遺伝子データセットにおいて、ペアドおよびアンペアドデータ設定の両方でCycleGAN や pix2pix などの手法を上回る最先端の補完精度を達成した。

ABSTRACT

In an era when big data are becoming the norm, there is less concern with the quantity but more with the quality and completeness of the data. In many disciplines, data are collected from heterogeneous sources, resulting in multi-view or multi-modal datasets. The missing data problem has been challenging to address in multi-view data analysis. Especially, when certain samples miss an entire view of data, it creates the missing view problem. Classic multiple imputations or matrix completion methods are hardly effective here when no information can be based on in the specific view to impute data for such samples. The commonly-used simple method of removing samples with a missing view can dramatically reduce sample size, thus diminishing the statistical power of a subsequent analysis. In this paper, we propose a novel approach for view imputation via generative adversarial networks (GANs), which we name by VIGAN. This approach first treats each view as a separate domain and identifies domain-to-domain mappings via a GAN using randomly-sampled data from each view, and then employs a multi-modal denoising autoencoder (DAE) to reconstruct the missing view from the GAN outputs based on paired data across the views. Then, by optimizing the GAN and DAE jointly, our model enables the knowledge integration for domain mappings and view correspondences to effectively recover the missing view. Empirical results on benchmark datasets validate the VIGAN approach by comparing against the state of the art. The evaluation of VIGAN in a genetic study of substance use disorders further proves the effectiveness and usability of this approach in life science.

研究の動機と目的

• 特定のサンプルにおいて完全に欠損したビューが存在するマルチビューおよびマルチモーダルデータにおける欠損ビュー問題に対処すること。
• 完全なビューに依存せず、単純な補完手法に依存しないスケーラブルなディープラーニングベースの手法を構築すること。
• GANとオートエンコーダーのコンポーネントを共同最適化することで、ドメインマッピングとビュー対応関係からの知識統合を実現すること。
• 特に物質使用症候群の遺伝的研究を含む実世界のバイオメディカルデータセットを用いて、手法の実用的有用性を検証すること。
• GANベースの手法の適用範囲を画像間変換を超えて、構造的で数値的なマルチビュー・データへと拡張すること。

提案手法

• VIGANは、各ビューを別々のドメインとして扱い、異なるデータビュー間の双方向マッピングを学習するサイクル整合性GANを採用する。
• ペアドデータを用いて、GANが出力した結果から、マルチモーダルノイズ除去オートエンコーダー（DAE）を用いて欠損ビューを再構成する。
• GANとDAEコンポーネントを共同最適化することで、ドメイン間およびビュー対応関係における知識統合を可能にする。
• 一般化性とロバスト性を向上させるために、ペアドおよびアンペアドデータを活用したマルチステージでの訓練を実施する。
• スケーラビリティと収束性を確保するため、Adam最適化子を用いた確率的勾配降下法を採用する。
• TripleGANのように、CycleGANフレームワークを拡張することで2つ以上のビューに対しても適用可能であり、マルチモーダルオートエンコーダーの事前学習も可能である。

実験結果

リサーチクエスチョン

• RQ1 一部のサンプルにおいて完全に欠損したビューが存在する状況下で、GANベースのフレームワークが効果的にビュー間マッピングを学習できるか。
• RQ2 ノイズ除去オートエンコーダーの統合が、GAN単体の手法と比較して、欠損ビュー補完における再構成精度をどのように向上させるか。
• RQ3 トレーニング中にアンペアドデータを用いることで、ビュー補完モデルの性能が向上するか。
• RQ4 数値データおよび画像データにおいて、VIGANはCycleGAN や pix2pix、行列補完法といった最先端手法と比較して、補完精度で優れているか。
• RQ5 VIGANは、物質使用症候群の遺伝的研究を含む実世界のバイオメディカルデータセットに効果的に適用可能か。

主な発見

• MNISTデータセットでは、すべてのデータ（ペアドおよびアンペアド）を用いてVIGANが平均80.03%の精度を達成し、CycleGAN（75.70%）および pix2pix（71.89%）を上回った。
• アルコールおよびカンナビノイド遺伝子データセットでは、VIGANがアンペアドデータで平均64.50%の精度を達成し、CycleGAN（61.96%）および pix2pix（61.12%）を上回った。
• VIGANモデルは、どのビューを補完するかに関わらず一貫した性能を示し、両方向のビュー変換において高いロバスト性を示した。
• 行列補完法はスケーラビリティの問題によりメモリにデータをロードできなかったが、VIGANはTesla K40 GPUで数時間で効率的に学習が可能であった。
• マルチモーダルDAEの統合により、GAN単体のベースラインと比較して精度が顕著に向上した。これは、数値データ補完におけるノイズ除去と再構成の価値を示している。
• VIGANは実世界の遺伝子データにおいて優れた一般化性と安定性を示し、生命科学分野および複雑で多様性のあるデータセットにおける実用性を裏付けた。