[論文レビュー] AdCo: Adversarial Contrast for Efficient Learning of Unsupervised Representations from Self-Trained Negative Adversaries

Qianjiang Hu, Xiao Wang+2 more|arXiv (Cornell University)|Nov 17, 2020

Domain Adaptation and Few-Shot Learning参考文献 39被引用数 12

ひとこと要約

AdCoは、表現ネットワークと併せて敵対的ネガティブ例をエンドツーエンドで学習する、画期的な対照学習フレームワークを提案する。ミニマックス目的関数を用いて表現ネットワークとネガティブアドバーシャルを交互に最適化することで、極めて挑戦的なネガティブ例を生成する。AdCoは、MoCo や他のベースラインと比較して、事前学習時間とGPUコストを顕著に削減しながら、SOTAの性能（800エポック後の線形評価でImageNetでトップ1正解率75.7％）を達成した。

ABSTRACT

Contrastive learning relies on constructing a collection of negative examples that are sufficiently hard to discriminate against positive queries when their representations are self-trained. Existing contrastive learning methods either maintain a queue of negative samples over minibatches while only a small portion of them are updated in an iteration, or only use the other examples from the current minibatch as negatives. They could not closely track the change of the learned representation over iterations by updating the entire queue as a whole, or discard the useful information from the past minibatches. Alternatively, we present to directly learn a set of negative adversaries playing against the self-trained representation. Two players, the representation network and negative adversaries, are alternately updated to obtain the most challenging negative examples against which the representation of positive queries will be trained to discriminate. We further show that the negative adversaries are updated towards a weighted combination of positive queries by maximizing the adversarial contrastive loss, thereby allowing them to closely track the change of representations over time. Experiment results demonstrate the proposed Adversarial Contrastive (AdCo) model not only achieves superior performances (a top-1 accuracy of 73.2\% over 200 epochs and 75.7\% over 800 epochs with linear evaluation on ImageNet), but also can be pre-trained more efficiently with fewer epochs.

研究の動機と目的

• 既存の対照学習手法がネガティブキューを部分的に更新するか、現在のミニバッチネガティブ例に依存するという非効率性に対処すること。
• 過去の情報を破棄するのではなく、全体としてネガティブ例を更新することで、表現の変化を継続的に追跡する手法を開発すること。
• ネガティブアドバーシャルをエンドツーエンドで学習可能にすることで、時間経過に伴いより困難になるように適応的に進化するようにすること。
• 事前学習に必要なエポック数とGPU時間の削減を実現しながら、下流タスクの性能を維持または向上させること。

提案手法

• AdCoは、表現ネットワークと学習可能なネガティブアドバーシャルの間でミニマックス最適化問題を定式化する。
• 表現ネットワークは、ポジティブクエリと敵対的ネガティブ例を区別することで、対照損失を最小化するように訓練される。
• ネガティブアドバーシャルは、同じ対照損失を最大化することで更新され、ポジティブクエリの重み付き平均に近づくように促進される。
• 敵対的更新により、ネガティブ例は進化する表現空間を的確に追跡し、古くなりすぎたり不適切になったりしたネガティブ例を回避する。
• バックボーンとネガティブアドバーシャルの両方をエンドツーエンドで学習可能にし、統合された学習コンponentとして統合する。
• 微分解析の結果、ネガティブアドバーシャルはポジティブクエリの重み付き平均に駆動されることが示され、代表的かつ識別力のある状態を維持することが保証される。

実験結果

リサーチクエスチョン

• RQ1 エンドツーエンドで学習可能な敵対的ネガティブ例は、自己教師あり表現学習の識別力の向上に有効に機能するか？
• RQ2 ネガティブアドバーシャルを個別にではなく全体として更新することで、インクリメンタルキュー更新と比較して表現学習にどのように寄与するか？
• RQ3 提案手法は、性能を維持または向上させながら、事前学習に必要なエポック数とGPU時間を削減するか？
• RQ4 敵対的ネガティブ例は、小さな物体のようなハードサンプルをどれほど効果的に捉えられるか？その結果、下流の検出性能にどのように影響するか？
• RQ5 表現ネットワークとネガティブアドバーシャルの間のミニマックストレーニングダイナミクスは、収束性と一般化性能にどのように影響するか？

主な発見

• AdCoは、200エポック後の線形評価でImageNetでトップ1正解率73.2％、800エポック後には75.7％を達成し、同等の設定下でMoCo v2を上回った。
• わずか10エポックで、AdCoはMoCo v2よりもトップ1正解率で5％高い性能を達成し、優れたサンプル効率を示した。
• AdCoは、MoCo v2と同等の性能を達成しながら、事前学習に必要なエポック数を約30～50削減した。
• t-SNE可視化では、AdCoはより少ないネガティブ外れ値を生成し、ネガティブ表現がより密にクラスタリングされていることが示され、ポジティブクエリの分布をよりよく追跡していることがわかった。
• COCOにおける物体検出タスクでは、AdCoはベースラインモデルに対してAP_Sを3.3％～3.6％向上させ、マルチクロップ増幅を用いたSWAVをも凌駆した。
• アブレーションスタディの結果、AdCoは事前学習に要するGPU時間を顕著に削減し、MoCo や BYOL を基にしたアプローチよりも効率的であることが示された。