[論文レビュー] Open Domain Generalization with Domain-Augmented Meta-Learning

Shu Yang, Zhangjie Cao+3 more|arXiv (Cornell University)|Apr 8, 2021

Domain Adaptation and Few-Shot Learning参考文献 55被引用数 8

ひとこと要約

本論文は、分布シフトと異なるラベル集合を有するソースドメイン間の一般化を解決する、新しいフレームワークであるドメイン拡張メタラーニング（DAML）を提案する。特徴レベルの拡張としてディリクレ混合（Dirichlet mixup）を導入し、ラベルレベルの知識移行として蒸留されたソフトラベル化を採用することで、拡張ドメイン上でのメタラーニングを可能にし、未知のターゲットドメインにおいて最先端の性能を達成するとともに、既知のクラスおよびオープンクラスの両方で顕著な一般化性能向上を実現する。

ABSTRACT

Leveraging datasets available to learn a model with high generalization ability to unseen domains is important for computer vision, especially when the unseen domain's annotated data are unavailable. We study a novel and practical problem of Open Domain Generalization (OpenDG), which learns from different source domains to achieve high performance on an unknown target domain, where the distributions and label sets of each individual source domain and the target domain can be different. The problem can be generally applied to diverse source domains and widely applicable to real-world applications. We propose a Domain-Augmented Meta-Learning framework to learn open-domain generalizable representations. We augment domains on both feature-level by a new Dirichlet mixup and label-level by distilled soft-labeling, which complements each domain with missing classes and other domain knowledge. We conduct meta-learning over domains by designing new meta-learning tasks and losses to preserve domain unique knowledge and generalize knowledge across domains simultaneously. Experiment results on various multi-domain datasets demonstrate that the proposed Domain-Augmented Meta-Learning (DAML) outperforms prior methods for unseen domain recognition.

研究の動機と目的

• 未知の分布とラベル集合を有する未観測のターゲットドメインへの深層モデルの一般化を課題とする。
• 共有ラベル集合の仮定やターゲットドメインデータの必要性を要する従来のドメイン一般化手法の制限を克服すること。
• 異なるラベル集合と分布を有するソースドメイン間で一般化可能な表現を学ぶ統一フレームワークを開発すること。
• ラベル集合の重複度やターゲットデータの可用性に関する最小限の仮定のもとで、ドメイン間の効果的な知識移行を可能にすること。

提案手法

• ラベル集合、ターゲットデータ、またはターゲットデータでの微調整を一切仮定しない、新しいオープンドメイン一般化（OpenDG）の問題設定を提案する。
• ディリクレ分布サンプリングを用いて複数ドメインにまたがる多様な混合サンプルを生成する、特徴レベルの拡張手法「ディリクレ混合（Dir-mixup）」を導入する。
• 他のドメインの訓練済みネットワークから得た知識を蒸留して、各ソースドメインにおける欠落したクラス表現を強化する、蒸留されたソフトラベル化を適用する。
• ドメイン固有の知識を保持しつつ、ドメイン間一般化を促進する、ドメイン拡張メタラーニングタスクと損失関数を設計する。
• すべてのソースドメインネットワークのアンサンブル予測を用いて、不確実性を自然にキャリブレーションし、オープンセット認識におけるロバスト性を向上させる。
• ドメイン拡張データ上でメタラーニングを実施することで、最小限のインダクティブバイアスで未観測ドメインへの一般化表現を学習する。

Figure 1: Open Domain Generalization (OpenDG). Different source domains hold disparate label sets. The goal is to learn generalizable representations from these source domains to help classify the known classes and detect open classes in the unseen target domain.

実験結果

リサーチクエスチョン

• RQ1 異なるラベル集合と分布を有するソースドメイン間で、メタラーニングフレームワークが効果的に一般化できるか？
• RQ2 特徴レベルとラベルレベルのドメイン拡張は、オープンドメイン一般化における一般化性能をどのように向上させるか？
• RQ3 標準的なミックスアップに比べて、ディリクレ混合（Dir-mixup）は表現の多様性と一般化を促進する点で優れているか？
• RQ4 蒸留されたソフトラベル化は、マイノリティクラスおよび欠落クラスにおけるモデル性能をどの程度向上させるか？
• RQ5 ドメイン拡張データ上で行うメタラーニングは、未観測ターゲットドメインへのゼロショット一般化をどの程度向上させるか？

主な発見

• DAModelはOpenDGベンチマークで平均56.5%の精度を達成し、先行手法（CuMixやAGG）を顕著に上回る性能を示した。
• アブレーションスタディの結果、Dir-mixupと蒸留されたソフトラベル化をメタラーニングと組み合わせることで最高の性能が得られ、Office-Homeデータセットで56.5%の平均精度を達成した。
• 標準的なミックスアップの代わりにDir-mixupを用いることで、平均で1.3%の精度向上が見られ、多ドメイン混合による多様性向上の有効性が裏付けられた。
• 蒸留されたソフトラベル化の導入により、平均で1.2%の精度向上が確認され、クロスドメイン知識移行の有効性が実証された。
• ドメイン拡張データ上で行うメタラーニングにより、ソースドメインとターゲットドメインの特徴間のFréchet距離が低下し、ドメインアライメントが向上した。
• ターゲットドメインのオープンセット部分で53.1%の精度を達成し、未知クラスへの強い一般化性能を示した。

Figure 2: The architecture of the proposed DAML framework. We show the computation graph for source domain 1 as an example, and the other source domains are computed similarly. In the meta-training (up part, left to right), each source domain is augmented by Dir-mixup (red) and distilled soft-labeli