[論文レビュー] Revisiting Batch Normalization For Practical Domain Adaptation

Yanghao Li, Naiyan Wang+3 more|arXiv (Cornell University)|Mar 15, 2016

Domain Adaptation and Few-Shot Learning参考文献 38被引用数 367

ひとこと要約

Adaptive Batch Normalization (AdaBN) は、ドメインごとに BN 統計量を置換することで、追加のパラメータや訓練要件なしに強力なドメイン適応を実現する、事前学習済み BN ネットワークを新しいドメインに適応させます。

ABSTRACT

Deep neural networks (DNN) have shown unprecedented success in various computer vision applications such as image classification and object detection. However, it is still a common annoyance during the training phase, that one has to prepare at least thousands of labeled images to fine-tune a network to a specific domain. Recent study (Tommasi et al. 2015) shows that a DNN has strong dependency towards the training dataset, and the learned features cannot be easily transferred to a different but relevant task without fine-tuning. In this paper, we propose a simple yet powerful remedy, called Adaptive Batch Normalization (AdaBN) to increase the generalization ability of a DNN. By modulating the statistics in all Batch Normalization layers across the network, our approach achieves deep adaptation effect for domain adaptation tasks. In contrary to other deep learning domain adaptation methods, our method does not require additional components, and is parameter-free. It archives state-of-the-art performance despite its surprising simplicity. Furthermore, we demonstrate that our method is complementary with other existing methods. Combining AdaBN with existing domain adaptation treatments may further improve model performance.

研究の動機と目的

• 深層ネットワークの出力層を超えたドメインシフトを動機付け、分析する。
• パラメータフリーの適応手法として、Batch Normalization 統計量を利用する。
• 標準的なドメイン適応ベンチマーク（Office、Caltech-Bing）とリモートセンシングの雲検出タスクで AdaBN を実証する。
• AdaBN が他の適応手法と補完的で、ターゲットドメインデータの可用性が異なる場合にも有効であることを示す。

提案手法

• Batch Normalization 層でドメイン固有の統計量を用いて、ソースとターゲットドメイン間の特徴分布を整合させる。
• ターゲットドメインデータからオンラインでドメインごとの BN 平均と分散を推定し、テスト時に適用する。
• ソースドメインから学習した BN パラメータ（gamma, beta）はそのまま維持し、ドメインごとの統計量だけを切り替える。
• 必要に応じて、ドメインごとの統計量によるマルチソースおよび半教師あり設定へ AdaBN を拡張する。
• 特徴分布の分岐とターゲットドメインデータサイズの感度の実証分析を提供する。
• 大規模なリモートセンシング画像分割タスクでの実用性を示す。

実験結果

リサーチクエスチョン

• RQ1 ドメイン固有 BN 統計量だけでモデルの重みを変更せずにドメインシフトを効果的に緩和できるか。
• RQ2 AdaBN は標準的な単一ソースおよび複数ソースのドメイン適応ベンチマークで、最先端手法と比べてどう機能するか。
• RQ3 AdaBN の安定した BN 統計量を得るには、ターゲットドメインデータがどれくらい必要か。
• RQ4 AdaBN は他のドメイン適応技術を補完してさらなる改善をもたらすか。
• RQ5 リモートセンシング画像解析のような大規模で現実的なタスクに対して AdaBN は実用的か。

主な発見

• AdaBN は単一ソースドメイン適応を改善し、標準ベンチマークで競合的または優れた結果を達成する。
• AdaBN は CORAL と組み合わせても効果を保ち、一部タスクで追加の利得を生む。
• Office-31 では、AdaBN ＋ CORAL は 75.4/96.2/99.6/72.7/59.0/60.5/77.2（A→W, D→W, W→D, A→D, D→A, W→A, Avg）に到達する。
• マルチソース設定では、AdaBN が平均で基準値と単一手法 CORAL を上回る（AdaBN Avg 83.6 対 CORAL 83.3）。
• Caltech-Bing では、AdaBN は基準を上回り、報告されている設定では Deep CORAL 系列と同等かそれより良い。
• AdaBN は衛星間の大きなドメインギャップを持つ実用的なリモートセンシング雲検出タスクで顕著な性能向上を示す。