[論文レビュー] Auto-Encoder based Co-Training Multi-View Representation Learning

Run‐kun Lu, Jian–wei Liu+3 more|arXiv (Cornell University)|Jan 9, 2022

Domain Adaptation and Few-Shot Learning参考文献 17被引用数 4

ひとこと要約

本稿では、自己符号化器に基づくコ・トレーニング多視点学習（ACMVL）を提案する。これは、共有された教師ありネットワークと視点別自己符号化器を用いて、相互に学習させることで、複数の視点間で一貫性と補完性のある表現を同時に学習するニューラルネットワークベースの手法である。重み共有と交互コ・トレーニングにより、表現学習を向上させ、ベンチマークデータセットにおける分類およびクラスタリングタスクで最先端の性能を達成している。

ABSTRACT

Multi-view learning is a learning problem that utilizes the various representations of an object to mine valuable knowledge and improve the performance of learning algorithm, and one of the significant directions of multi-view learning is sub-space learning. As we known, auto-encoder is a method of deep learning, which can learn the latent feature of raw data by reconstructing the input, and based on this, we propose a novel algorithm called Auto-encoder based Co-training Multi-View Learning (ACMVL), which utilizes both complementarity and consistency and finds a joint latent feature representation of multiple views. The algorithm has two stages, the first is to train auto-encoder of each view, and the second stage is to train a supervised network. Interestingly, the two stages share the weights partly and assist each other by co-training process. According to the experimental result, we can learn a well performed latent feature representation, and auto-encoder of each view has more powerful reconstruction ability than traditional auto-encoder.

研究の動機と目的

• 行列因子分解に依存する従来の多視点部分空間学習手法が大規模データに対して困難を抱えるという限界を解決すること。
• 深層ニューラルネットワークを用いて、多視点データにおける一貫性（共有特徴）と補完性（視点固有特徴）の両方を同時にモデル化すること。
• 自己符号化器と教師ありネットワークを用いたコ・トレーニングにより、自己符号化器の性能を向上させる、スケーラブルでミニバッチ対応の訓練戦略を開発すること。
• 自己符号化器と教師ありネットワーク間で部分的なパラメータ共有を可能にすることで、収束を加速し、表現品質を向上させること。

提案手法

• フレームワークは視点別自己符号化器と共有された教師ありネットワークから構成され、共同潜在表現は教師ありネットワークの最初の隠れ層から抽出される。
• 各視点の自己符号化器は視点固有の潜在表現を学習し、重み共有を通じて共有空間にマッピングされることで一貫性が強制される。
• 交互コ・トレーニング戦略が採用されており、教師ありネットワークが勾配信号を提供して自己符号化器のエンコーダーを改善し、自己符号化器の特徴が教師ありネットワークの訓練を強化する。
• ミニバッチ確率的勾配降下法が使用されており、従来の行列因子分解に基づくアプローチとは異なり、大規模データセットへのスケーラビリティが確保されている。
• 各視点の特徴の特別な部分を共有空間に射影した重み付き和を計算し、その後に非線形活性化関数を適用することで、共同表現が形成される。
• 自己符号化器の再構成損失と教師ありネットワークの交差エントロピー損失を用いて、エンドツーエンドでモデルが訓練される。

実験結果

リサーチクエスチョン

• RQ1 深層学習に基づくコ・トレーニングフレームワークは、多視点データにおける一貫性と補完性を捉える共同潜在表現を効果的に学習できるか？
• RQ2 共有パラメータを用いた交互コ・トレーニングは、個々の視点の自己符号化器および全体の共同表現の性能をどのように向上させるか？
• RQ3 従来の行列因子分解に基づくアプローチとは異なり、ミニバッチ訓練を用いることで、本手法は大規模データセットに効率的にスケーリングできるか？
• RQ4 共同潜在表現は、下流の分類およびクラスタリングタスクにおいて、個々の視点の表現をどの程度上回るか？

主な発見

• アブレーションスタディの結果、ACMVLフレームワークは標準的な自己符号化器と比較して、個々の視点の自己符号化器の再構成能力を顕著に向上させている。
• 分類タスクにおいて、共同潜在表現（LR-ACMVL）は個々の視点表現（LR-AE）およびコ・トレーニング自己符号化器特徴（LR-AE-ACMVL）よりも高い正確性とF1スコアを達成している。
• クラスタリングタスクにおいて、共同潜在表現（GMM-ACMVL）は個々の視点表現および自己符号化器のみのベースラインと比較して、顕著に高いNMIと低いJCスコアを達成している。
• WebKBデータセットでは、共同表現がNMI 0.5809、JC 0.0310を達成し、最良の個別視点（NMI: 0.4739、JC: 0.1593）を上回った。
• 20NGデータセットでは、共同表現がNMI 0.3171、JC 0.5100を達成し、最良の個別視点（NMI: 0.1968、JC: 0.4533）を顕著に上回った。
• コ・トレーニング戦略は収束を加速させ、各自己符号化器の学習性能を向上させ、パラメータ共有と相互監視の有効性を示している。