[論文レビュー] Self-ensembling for visual domain adaptation

Geoffrey French, Michał Mackiewicz+1 more|UEA Digital Repository (University of East Anglia)|Jun 16, 2017

Domain Adaptation and Few-Shot Learning参考文献 25被引用数 63

ひとこと要約

この論文は視覚ドメイン適応のための mean teacher 自己アンサンブリングフレームワークを適用し、ソース/ターゲットバッチによるドメイン特化のトレーニング、信頼度閾値、クラスバランスを導入して、VisDA-2017 を含むいくつかのベンチマークで最先端の結果を達成します。

ABSTRACT

This paper explores the use of self-ensembling for visual domain adaptation problems. Our technique is derived from the mean teacher variant (Tarvainen et al., 2017) of temporal ensembling (Laine et al;, 2017), a technique that achieved state of the art results in the area of semi-supervised learning. We introduce a number of modifications to their approach for challenging domain adaptation scenarios and evaluate its effectiveness. Our approach achieves state of the art results in a variety of benchmarks, including our winning entry in the VISDA-2017 visual domain adaptation challenge. In small image benchmarks, our algorithm not only outperforms prior art, but can also achieve accuracy that is close to that of a classifier trained in a supervised fashion.

研究の動機と目的

• 視覚タスクの semi-supervised および unsupervised ドメイン適応を通じたラベリング需要の削減を動機づける。
• mean teacher 自己アンサンブリングを拡張し、ラベル付きソースとラベルなしターゲットの別々のドメインを扱えるようにする。
• 信頼度閾値とクラスバランスを導入して、難しいドメインシフトにおけるトレーニングの安定性と性能を向上させる。
• 小さな画像ベンチマークと VisDA-2017 ドメイン適応チャレンジの両方で有効性を示す。

提案手法

• アプローチを mean teacher 半教師あり学習に基づけ、学生ネットワークが学生の指数移動平均である教師から学習する。
• ドメイン固有のデータを処理するためにソースとターゲットの別々の経路を使用し、ドメインごとに適応されたバッチ正規化統計を適用する。
• ラベル付きソースデータには標準の教師あり損失を適用し、ターゲットデータに対しては学生と教師の予測の間で自己アンサンブリング損失を用いる。
• unlabeled ターゲットサンプルに対して自己アンサンブリング損失を適用するかどうかを決定するため、Gaussian ramp-up を信頼度閾値で置換する。
• クラス不均衡なターゲット分布によって生じる崩壊的な局所最小値を緩和するためのクラスバランス損失を導入する。
• データ増強スキーム（Gaussianノイズ、平行移動、反転、アフィン変換）を組み込み、それらの影響を異なるベンチマークで評価する。

実験結果

リサーチクエスチョン

• RQ1 自己アンサンブリングを半教師あり学習から、ラベル付きソースとラベルなしターゲットデータを用いる unsupervised ドメイン適応へ効果的に移行できるか？
• RQ2 ドメイン特異的なバッチ正規化、信頼ベースの重み付け、およびクラスバランスは難易度の高いデータセットで適応性能を向上させるか？
• RQ3 小さな画像ベンチマークと VisDA-2017 のような大規模なドメイン適応タスクで、どの増強とトレーニング戦略が最先端の結果を生み出すか？
• RQ4 ドメイン適応型自己アンサンブリングはターゲットドメインでの教師あり学習の性能にどれだけ近づけるか？

主な発見

• MT+TF、MT+CT、MT+CT+TF、MT+CT+TFA の構成で、いくつかの小規模画像ドメイン適応ベンチマークで最先端の結果を達成した。
• MT+TF のみでいくつかのタスクで強力な結果を示し、信頼度閾値を追加したことで訓練が安定化し、いくつかのベンチマーク（例: STLCIFAR、Syn-digits から SVHN への変換）ではパフォーマンスが改善された。
• 0.968 の閾値での信頼度閾値設定が安定性と性能を向上させ、高信頼の教師予測を強調するフィルターとして機能した。
• ターゲットクラスの不均衡によって生じる崩壊的最小値を緩和するクラスバランス損失は、特に MNIST→SVHN などでターゲット予測を均一なクラス分布に向けてバランスさせた。
• VisDA-2017 では、事前学習済み ResNet-152 を用い、テスト時データ拡張とアンサンブル予測を組み合わせると、構成間で高い検証/テストスコアを含む競合的な結果を得られた。
• データ増強の選択は性能に大きく影響し、翻訳/反転は一部のベンチマークで有効だったが、アフィン拡張はデータドメインによっては他のタスクで害になる可能性がある。