[論文レビュー] Task-Driven Common Representation Learning via Bridge Neural Network

Yao Xu, Xueshuang Xiang+1 more|arXiv (Cornell University)|Jun 26, 2019

Domain Adaptation and Few-Shot Learning参考文献 19被引用数 4

ひとこと要約

本論文では、人工的なネガティブサンプルを用いて学習することで、2つのデータソース間の共通表現を学ぶタスク指向のディープラーニングフレームワーク、ブリッジニューラルネットワーク（BNN）を提案する。この手法は漸近的に全相関を最大化し、ペアマッチング、CCA、転移学習、ビュー再構成のタスクにおいて最先端の性能を達成する。

ABSTRACT

This paper introduces a novel deep learning based method, named bridge neural network (BNN) to dig the potential relationship between two given data sources task by task. The proposed approach employs two convolutional neural networks that project the two data sources into a feature space to learn the desired common representation required by the specific task. The training objective with artificial negative samples is introduced with the ability of mini-batch training and it's asymptotically equivalent to maximizing the total correlation of the two data sources, which is verified by the theoretical analysis. The experiments on the tasks, including pair matching, canonical correlation analysis, transfer learning, and reconstruction demonstrate the state-of-the-art performance of BNN, which may provide new insights into the aspect of common representation learning.

研究の動機と目的

• 異なる複雑さのレベルを有する2つのデータソース間で、タスク固有の共通表現を学ぶ課題に対処すること。
• ペアマッチング、CCA、転移学習、ビュー再構成といった異なるタスクに適応できるスケーラブルなディープラーニングフレームワークを構築すること。このフレームワークは、表現学習の目的関数をタスクに合わせて調整可能である。
• 人工的ネガティブサンプルを用いた新しいトレーニング目的関数を導入し、それが理論的に2つのデータソース間の全相関を漸近的に最大化することと同等であることを示すこと。
• 高次元データに対して勾配降下法を用いたエンドツーエンドのトレーニングを可能にする軽量な畳み込み層および逆畳み込み層を用いたネットワーク構造を実現すること。

提案手法

• BNNは、2つのデータソースを共通の特徴空間に写像するために、共有重みまたは別個の畳み込みニューラルネットワークを用いる。
• 二値分類の目的関数を用いる：ポジティブペアの表現間のユークリッド距離を最小化し、人工的ネガティブペアの距離を最大化する。
• 理論的に、トレーニング目的関数が2つのデータソース間の全相関を漸近的に最大化することと同等であることが示されている。
• ビュー再構成の目的では、共通表現層の後ろに2つの逆畳み込みニューラルネットワーク（デコーダ）を追加して欠落したビューを再構成する。
• 総損失関数はBNN損失、自己再構成損失、および相互再構成損失を組み合わせており、エンコーダとデコーダのパラメータを同時に最適化可能である。
• ミニバッチトレーニングをサポートし、標準的な勾配降下法により最適化されるため、大規模かつ高次元のデータセットへのスケーラビリティが確保される。

実験結果

リサーチクエスチョン

• RQ1 統合されたディープラーニングフレームワークは、異なるタスクにおける複雑さの違いに応じて、タスク固有の共通表現を学習できるか？
• RQ2 トレーニング時に人工的ネガティブサンプルを用いることで、2つのデータソース間の全相関を漸近的に最大化する表現学習目的関数が得られるか？
• RQ3 ペアマッチング、正準相関分析（CCA）、転移学習、ビュー再構成のタスクにおいて、BNNは既存手法と比較してどのように性能を発揮するか？
• RQ4 逆畳み込み層をデコーダとして統合することで、BNNフレームワークをビュー再構成をサポートするように拡張できるか？

主な発見

• BNNはペアマッチングタスクにおいて最先端の性能を達成し、精度とロバスト性の面で既存手法を上回っている。
• 人工的ネガティブサンプルを用いた提案されたトレーニング目的関数は、理論的に2つのデータソース間の全相関を漸近的に最大化することと同等であることが証明されている。
• 正準相関分析（CCA）タスクにおいて、BNNは線形に相関する表現を学習し、従来のCCAやDCCAと同等またはそれ以上の性能を示している。
• 転移学習において、BNNは分類タスクの精度を向上させる判別性の高い特徴を学習している。
• ビュー再構成において、BNNに逆畳み込みデコーダを組み込むことで、視覚的に明確で正確な再構成が得られ、CorrNetを上回る定性的な結果を示している。
• 自己再構成損失および相互再構成損失が効果的に最小化されており、定量的評価ではベースライン手法よりも低い再構成誤差が得られている。