[論文レビュー] Unsupervised Domain Adaptation through Self-Supervision

Yu Sun, Eric Tzeng+2 more|arXiv (Cornell University)|Sep 26, 2019

Domain Adaptation and Few-Shot Learning参考文献 64被引用数 168

ひとこと要約

本論文は、ソースドメインとターゲットドメインを、メインタスクを複数の自己の教師付き補助タスクと共に両方のドメインで共同訓練することで整合させ、敵対的ミニマックス最適化を回避し、いくつかのベンチマークで最先端の結果を達成することを提案する。

ABSTRACT

This paper addresses unsupervised domain adaptation, the setting where labeled training data is available on a source domain, but the goal is to have good performance on a target domain with only unlabeled data. Like much of previous work, we seek to align the learned representations of the source and target domains while preserving discriminability. The way we accomplish alignment is by learning to perform auxiliary self-supervised task(s) on both domains simultaneously. Each self-supervised task brings the two domains closer together along the direction relevant to that task. Training this jointly with the main task classifier on the source domain is shown to successfully generalize to the unlabeled target domain. The presented objective is straightforward to implement and easy to optimize. We achieve state-of-the-art results on four out of seven standard benchmarks, and competitive results on segmentation adaptation. We also demonstrate that our method composes well with another popular pixel-level adaptation method.

研究の動機と目的

• ソースドメインにのみラベル付きデータが存在し、ターゲットドメインに無ラベルデータがある場合の教師なしドメイン適応を動機づける。
• ソースとターゲットの両方のドメインで共同訓練された自己监督タスクを用いて表現を整列させつつ、ソースでの識別可能性を保持することを提案する。
• 敵対的/不一致ミニマックス最適化を避ける、単純で安定した訓練目的を開発する。
• 自己教師付きタスクを組み合わせると高い性能を得られ、ピクセルレベルの適応法を補完できることを示す。

提案手法

• データからラベルを生成するK個の自己 supervision 補助タスクを導入し（例: 回転、反転、位置）、これらをメインの教師付きタスクと同時に訓練する。
• 各自己教師付きタスクとメインタスクに対してタスク固有のヘッド hk を備えた共有エンコーダ φ を用い、L0 を h0 と φ に対して、Li を i=1..K に対して hi と φ に対して最適化する。
• 目的をマルチタスク学習問題として定式化する：最小化 L0(S;φ,h0) + sumk=1..K Lk(S,T;φ,hk)，ここで Sk はラベル付きソースサンプル、Tk は自己教師付き変換を通じて拡張されたラベルなしのソース/ターゲットサンプル。
• ソースとターゲットの両データから自己教師付きラベルを生成し、それぞれのタスクに関連する方向（回転、位置、反転）に沿って整列を保証する。
• ターゲットラベルなしで訓練を誘導するため、特徴空間平均ディスクリム D(S′,T′;φ) とソース検証セットのメインタスク誤差を用いたハイパーパラメータ調整と早期停止のための単純なヒューリスティックを提案する。

実験結果

リサーチクエスチョン

• RQ1 ソースとターゲットの両ドメインで共同訓練された自己監督タスクが、ターゲットドメインのラベルなしでも表現を十分に整列させ、良好な性能を可能にするか？
• RQ2 どの自己監督タスク（例：回転、位置、反転）が、異なるアプリケーション領域でドメイン整列を最も促進するか？
• RQ3 教師なしドメイン適応において敵対/ミニマックス最適化を回避しつつ、競争力のある結果を得ることは可能か？
• RQ4 ラベルなしターゲットデータがない状態で、ハイパーパラメータ調整と早期停止をどのように効果的に行えるか？
• RQ5 提案された自己教師付きアプローチは、ピクセルレベルのドメイン適応法を補完できるか？

主な発見

• 標準的な物体認識のドメイン適応ベンチマーク7件のうち4件で最先端の結果を達成し、セグメンテーション適応でも競争力のある性能を示す。
• 両方のドメインでの共同自己監督が表現を整列させ、ソースで学習した分類器がターゲットへ一般化できることを示す。
• 複数の自己教師付きタスクを組み合わせると、単一タスクより適応性能が向上する。
• この手法はピクセルレベルの適応技術と効果的に組み合わせることができ、さらなる利得を得られる（例：CyCADAのベースライン改善）。
• GTA5 から Cityscapes へのセグメンテーション適応など、ソースのみのベースラインより大きな改善を実現し、CyCADAと組み合わせた場合にも利益を得られることを示す。