[論文レビュー] On Adversarial Mixup Resynthesis

Christopher Beckham, Sina Honari+6 more|PolyPublie (École Polytechnique de Montréal)|Mar 7, 2019

Adversarial Robustness in Machine Learning被引用数 23

ひとこと要約

本稿では、自己符号化器の潜在表現を、線形補間やベルヌーイベースのマスキングなどの多様な混合関数を用いて混合し、その後復号する方法である敵対的ミックスアップ再合成を提案する。この手法は敵対的訓練を組み合わせることで、現実的で補間されたサンプルを生成する。本手法は教師なし表現学習を向上させ、クラス条件付きの混合を可能にし、下流の線形プローブタスクで最先端の性能を達成する。

ABSTRACT

In this paper, we explore new approaches to combining information encoded within the learned representations of auto-encoders. We explore models that are capable of combining the attributes of multiple inputs such that a resynthesised output is trained to fool an adversarial discriminator for real versus synthesised data. Furthermore, we explore the use of such an architecture in the context of semi-supervised learning, where we learn a mixing function whose objective is to produce interpolations of hidden states, or masked combinations of latent representations that are consistent with a conditioned class label. We show quantitative and qualitative evidence that such a formulation is an interesting avenue of research.

研究の動機と目的

• 複数の入力からの学習済み特徴を構造的な混合関数を用いて組み合わせることで、教師なし表現学習を改善すること。
• 未知の潜在要因の組み合わせからの新しい現実的なデータポイントの合成を可能にすることで、体系的一般化を実現すること。
• 自己符号化器の潜在表現における、線形、遺伝的、または学習された混合機構の有効性を調査すること。
• 学習済みの混合関数を用いてクラスラベルで混合を条件づけることで、半教師あり学習設定において性能を評価すること。
• 再構成出力に対して敵対的訓練を施すことで、現実性と下流タスクのパフォーマンスが向上することを示すこと。

提案手法

• エンコーダ $f(\cdot)$ とデコーダ $g(\cdot)$ を備えた自己符号化器を用い、潜在コードを混合関数を介して混合した後に再構成を行う。
• 実データと混合再構成サンプルを区別するための識別器 $D$ を導入し、敵対的訓練を適用する。
• 複数の混合戦略を採用：線形補間（ミックスアップ）、ベルヌーイマスキング、ニューラルネットワークベースの混合関数。
• クラスラベルを条件として混合関数に組み込むことで、ターゲット属性と整合的な妥当な補間を生成するクラス条件付き混合を導入する。
• 再構成損失と敵対的損失を同時に最小化するように自己符号化器を訓練することで、生成された混合サンプルの現実性を保証する。
• 下流タスクにおける性能を評価するため、線形分類器を用い、線形プローブ精度によってゼロショット一般化を測定する。

実験結果

リサーチクエスチョン

• RQ1 多様な関数を用いて複数の入力からの潜在表現を混合することで、自己符号化器における教師なし表現品質が向上するか？
• RQ2 混合再構成に対して敵対的訓練を施すと、合成データの現実性と一般化性能にどのような影響を与えるか？
• RQ3 学習済み関数を用いたクラス条件付き混合は、ターゲット属性と整合的な補間の一貫性を向上させることができるか？
• RQ4 線形補間とベルヌーイ補間などの異なる混合関数は、下流タスクのパフォーマンスおよび分離性の観点でどのように比較されるか？
• RQ5 本フレームワークは、疑似ラベルスケジュールに依存せずに半教師あり学習に拡張可能か？

主な発見

• 敵対的ミックスアップ再合成は、SVHN、CIFAR10、CelebAで下流の線形プローブ精度を向上させ、ベースライン自己符号化器に比べて最大3.5%の向上を達成した。
• ベルヌーイミックスアップは、分離性指標において標準的なミックスアップを上回り、生成されたサンプルにおける要因構成の制御性が優れていることを示唆している。
• 本手法は、特定のクラスラベルと整合した現実的な補間を生成可能な有効なクラス条件付き混合を実現している。
• ピクセル空間でのミックスアップに比べ、潜在空間での混合は、CIFAR10のような複雑なデータセットにおいてより現実的かつ多様なサンプルを生成する。
• 本手法は半教師あり学習にうまく一般化でき、複雑な疑似ラベルスケジュールの必要性を回避できる。
• CIFAR10ではパフォーマンス向上がわずか（数パcentポイント）であるが、未学習の要因組み合わせに対する体系的一般化の可能性が強く示唆されている。