[論文レビュー] DomainDrop: Suppressing Domain-Sensitive Channels for Domain Generalization

Jintao Guo, Qi Lei+1 more|arXiv (Cornell University)|Aug 20, 2023

Domain Adaptation and Few-Shot Learning被引用数 6

ひとこと要約

この論文は、ドメインに敏感なチャネル（ドメイン間で安定しない活性化を示す特徴マップチャネル）を特定・抑制することでモデルのロバスト性を向上させる、新しいドメイン一般化フレームワークであるDomainDropを提案する。ドメイン識別器を用いてドメイン識別への寄与度に基づきドロップアウト率を割り当てることで、ドメイン固有の特徴学習を低減し、複数のベンチマークで最先端の性能を達成するとともに、一般化誤差バウンドを理論的にタイトにする。

ABSTRACT

Deep Neural Networks have exhibited considerable success in various visual tasks. However, when applied to unseen test datasets, state-of-the-art models often suffer performance degradation due to domain shifts. In this paper, we introduce a novel approach for domain generalization from a novel perspective of enhancing the robustness of channels in feature maps to domain shifts. We observe that models trained on source domains contain a substantial number of channels that exhibit unstable activations across different domains, which are inclined to capture domain-specific features and behave abnormally when exposed to unseen target domains. To address the issue, we propose a DomainDrop framework to continuously enhance the channel robustness to domain shifts, where a domain discriminator is used to identify and drop unstable channels in feature maps of each network layer during forward propagation. We theoretically prove that our framework could effectively lower the generalization bound. Extensive experiments on several benchmarks indicate that our framework achieves state-of-the-art performance compared to other competing methods. Our code is available at https://github.com/lingeringlight/DomainDrop.

研究の動機と目的

• ドメインシフトの影響により、未学習のターゲットドメインで深層ニューラルネットワークの性能が低下する問題に対処すること。
• ドメイン一般化における過学習の原因が、中間層における非ロバストでドメインに敏感な特徴チャネルにあることの特定。
• 訓練中に不安定なチャネルに焦点を当てて、チャネルレベルでドメイン固有の特徴を明示的に抑制する手法の開発。
• ドメインに敏感なチャネルを除去することで一般化誤差バウンドがタイトになることを理論的に正当化すること。
• DomainDropが既存の最先端手法と直交しており、それらと組み合わせることで性能が向上することを実証すること。

提案手法

• 各チャネルがドメイン分類に寄与する度合いを評価するドメイン識別器を導入し、それに基づいてドロップアウト確率を割り当てる。
• 訓練中に中間層に階層ごとのランダムなDomainDrop挿入を適用することで、ネットワークのすべての深さにわたりドメインに敏感なチャネルを抑制する。
• 変動するDomainDrop摂動下でのモデル予測を正則化するための二重一貫性損失を用いることで、ロバスト性を向上させる。
• チャネルのロバスト性をドメイン間での活性化の標準偏差として定式化し、これにより不安定でドメインに敏感なチャネルを同定する。
• ドメインに敏感なチャネルを抑制することで、ソースドメインの分散（β）とソース・ターゲットドメインのギャップ（γ）が低下し、一般化誤差バウンドがタイトになることを理論的に証明する。
• ResNet-18 や MLP モデルに類似した GFNet といったさまざまなバックボーンアーキテクチャに DomainDrop を統合し、アーキテクチャへの汎用性を示す。

実験結果

リサーチクエスチョン

• RQ1 ドメインシフトに対するチャネルレベルのロバスト性を活用することで、ドメイン一般化が向上するか？
• RQ2 ドメイン間で活性化の分散が大きい（ドメインに敏感な）チャネルは、未学習ドメインにおけるモデル一般化性能を著しく低下させるか？
• RQ3 ドメイン識別器によってガイドされた動的でチャネル固有のドロップアウト機構は、不変表現に悪影響を及げることなくドメイン固有の特徴を効果的に抑制できるか？
• RQ4 ドメインに敏感なチャネルの抑制は、一般化誤差バウンドをタイトにするか？
• RQ5 DomainDrop は既存の最先端ドメイン一般化手法と組み合わせて、さらなる性能向上をもたらすか？

主な発見

• DomainDrop は、PACS で平均5.15%の誤差、Office-Home で4.09%の誤差を達成し、4つの標準ベンチマークで最先端の性能を実現した。
• ソースドメインの分散（β）とソース・ターゲットドメインギャップ（γ）の両方を低減し、比較対象手法の中で最も低い値を記録した。これは、効果的なドメインギャップの縮小を裏付ける。
• PACS では、RandAug より3.06%（86.69% 対 83.63%）、FACT より2.63%（87.24% 対 84.61%）の向上を達成し、強力な直交的向上効果を示した。
• GFNet では3.26%の向上（91.02% 対 87.76%）を達成し、MLP モデルに類似したアーキテクチャに対しても有効であることを示した。
• アブレーションスタディにより、浅い層と深い層の両方でドメインに敏感なチャネルが存在することが確認され、階層ごとの抑制の必要性が裏付けられた。
• 二重一貫性損失とドメイン識別器に基づくドロップアウト機構は、ロバストな性能と一般化を達成するために不可欠であることが確認された。