[論文レビュー] MixMatch Domain Adaptaion: Prize-winning solution for both tracks of VisDA 2019 challenge

Д. И. Рухович, Danil Galeev|arXiv (Cornell University)|Oct 9, 2019

Domain Adaptation and Few-Shot Learning参考文献 4被引用数 11

ひとこと要約

この論文は、EfficientNetバックボーンを用いたMixMatchに基づくドメイン適応手法を提示しており、VisDA 2019チャレンジのマルチソーストラックで2位、セミスーピーブトトラックで3位を達成した。アプローチは、修正されたミニバッチ構成と損失重み付けにより安定性を向上させ、モデルアンサンブルによってテストセットの精度を1%向上させた。

ABSTRACT

We present a domain adaptation (DA) system that can be used in multi-source and semi-supervised settings. Using the proposed method we achieved 2nd place on multi-source track and 3rd place on semi-supervised track of the VisDA 2019 challenge (http://ai.bu.edu/visda-2019/). The source code of the method is available at https://github.com/filaPro/visda2019.

研究の動機と目的

• ラベルなしのターゲットデータを前提としたマルチソースおよびセミスーピーブト設定における教師なしドメイン適応を統一フレームワークで解決すること。
• 実写、スケッチ、クリップアートなどの多様なドメイン間で一般化性能を向上させること。
• バッチ正規化統計の安定性を向上させるために、バッチ構成と正規化統計の再構成により、MixMatchベースのドメイン適応における訓練安定性を強化すること。
• ResNetベースのベースラインと比較して、EfficientNetをバックボーンとして用いることでドメイン適応タスクにおける性能と訓練安定性に与える影響を評価すること。
• 多様なバックボーンと損失重み設定を用いたモデルアンサンブルの有効性を示し、より高いロバスト性と精度を実現すること。

提案手法

• マルチソース設定では、ミニバッチにk個のソースドメインから等分してデータを含めるように、MixMatchをドメイン適応に適応。セミスーピーブト設定では、ラベル付きターゲット画像を1/5含める。
• 訓練中に、バッチ正規化統計の安定性を向上させるために、バランスの取れたバッチ構成（1/3ソース、2/3ターゲット）を採用。
• Neural Architecture Searchにより得られた高い精度とパラメータ効率を有するEfficientNet-B5およびB6をバックボーンとして採用。
• トレーニング時およびテスト時において一貫したデータ拡張を実施：リサイズを256×256に、ランダムな水平反転、および224×224へのランダムクロップを適用。
• 1ステップあたりバックボーンを5回呼び出す修正されたトレーニングループを実装：ターゲットバッチに対して2回、ミックスアップバッチに対して3回の勾配更新をバランスさせる。
• 異なるバックボーン（B5、B6）と損失重みハイパーパramータ（333.0、1000.0）を用いたモデルアンサンブルを採用し、最終予測に使用。

実験結果

リサーチクエスチョン

• RQ1 最小限のターゲットラベルを前提とした場合に、MixMatchはマルチソースおよびセミスーピーブトドメイン適応に効果的に適応可能か？
• RQ2 ドメイン適応性能と訓練安定性の観点から、ResNetと比較してEfficientNetをバックボーンとして用いることでどのような差が生じるか？
• RQ3 MixMatchを用いたドメイン適応において、バッチ構成がバッチ正規化の安定性に与える影響は何か？
• RQ4 モデルアンサンブルはドメイン適応ベンチマークにおける一般化性能と精度をどの程度向上させるか？
• RQ5 強力なデータ拡張と一貫性学習を組み合わせた場合、少量のラベル付きターゲット画像を用いたセミスーピーブトドメイン適応はどの程度有効か？

主な発見

• マルチソーストラックの検証セットでは、MixMatchベースの手法が61.9%の精度を達成し、ベースライン（51.9%）から10%の向上を示した。
• セミスーピーブトトラックでは、MixMatchモデルが63.9%の精度を達成し、ラベル付きターゲットデータなしのベースライン（45.7%）から10.5%の向上を示した。
• テストフェーズでは、マルチソースモデルがEfficientNet-B5と333.0の損失重みを用いて69.9%の精度を達成し、アンサンブルにより71.6%まで向上した。
• セミスーピーブトトラックでは、最良の単一モデルが70.4%の精度を達成し、アンサンブルにより71.3%まで向上し、3位にランクインした。
• 最終成績では、マルチソーストラックで2位（71.6%）、セミスーピーブトトラックで3位（71.3%）を達成し、上位2チームに次ぐ成績であった。
• アブレーションスタディにより、ドメイン適応が性能向上に顕著な寄与を示すことが確認され、特にラベル付きターゲットデータが利用可能なセミスーピーブト設定で最大の向上が観察された。