[論文レビュー] ToAlign: Task-oriented Alignment for Unsupervised Domain Adaptation

Guoqiang Wei, Cuiling Lan+3 more|arXiv (Cornell University)|Jun 21, 2021

Domain Adaptation and Few-Shot Learning参考文献 76被引用数 7

ひとこと要約

本論文は、教師なしドメイン適応のためのタスク指向型アライメント手法ToAlignを提案する。ToAlignは、ソース特徴量をタスクに特化した成分とタスクに無関係な成分に分解し、分離された前者の成分のみをアライメントすることで分類性能を向上させる。分類タスク自体から得られるメタ知識を活用することで、ToAlignは計算コストを最小限に抑えつつ、Office-Home、VisDA-2017、DomainNetの全データセットで最先端性能を達成した。

ABSTRACT

Unsupervised domain adaptive classifcation intends to improve the classifcation performance on unlabeled target domain. To alleviate the adverse effect of domain shift, many approaches align the source and target domains in the feature space. However, a feature is usually taken as a whole for alignment without explicitly making domain alignment proactively serve the classifcation task, leading to sub-optimal solution. In this paper, we propose an effective Task-oriented Alignment (ToAlign) for unsupervised domain adaptation (UDA). We study what features should be aligned across domains and propose to make the domain alignment proactively serve classifcation by performing feature decomposition and alignment under the guidance of the prior knowledge induced from the classifcation task itself. Particularly, we explicitly decompose a feature in the source domain into a task-related/discriminative feature that should be aligned, and a task-irrelevant feature that should be avoided/ignored, based on the classifcation meta-knowledge. Extensive experimental results on various benchmarks (e.g., Offce-Home, Visda-2017, and DomainNet) under different domain adaptation settings demonstrate the effectiveness of ToAlign which helps achieve the state-of-the-art performance. The code is publicly available at https://github.com/microsoft/UDA

研究の動機と目的

• 既存の教師なしドメイン適応手法では、分類タスクに明示的なガイダンスを提供せずに、分類とは並行的かつ受動的にドメインアライメントが行われるという制限を是正する。
• 分類性能を最大化するために、ソースドメインのどの特徴量をターゲットドメインとアライメントすべきかを特定する。つまり、全体の特徴量を無差別にアライメントするのでなく、タスクに特化した成分のみを対象とする。
• 分類タスク自体から得られるメタ知識を用いて、ドメインアライメントを明示的にガイドすることで、アライメントが分類を能動的に支援するようにする。
• タスクに無関係な成分からのノイズを回避するため、識別的特徴量の汚染を防ぐために、最も関連性の高い部分特徴量のみをアライメントする。
• 複雑なメタ最適化を伴わず、計算コストを最小限に抑えつつ、教師なしドメイン適応で最先端の性能を達成する。

提案手法

• 本手法は、分類タスクから得られるメタ知識を用いて、ソースドメインの特徴量を明示的に分解し、タスク関連（識別的）成分とタスクに無関係な成分に分離する。
• ターゲット特徴量とソース特徴量のタスク識別的成分をハダマード積で結合することで、選択的アライメントを実現する。
• タスク識別的成分は、分類ヘッドの予測信頼度から導出され、特徴量の関連性の代理として機能する。
• ドメインアライメントは、ターゲット特徴量とソースのタスク識別的成分の間でのみ実施され、タスクに無関係な部分はアライメントの過程で無視される。
• DANN や HDA といった既存のUDAモデルと統合可能であり、複雑なメタ最適化を伴わず、タスク指向型アライメントを強化できる。
• メタ知識をアライメントプロセスに直接埋め込むことで、追加の学習複雑性を回避し、ベースライン比で7%の計算コスト削減を達成した。

実験結果

リサーチクエスチョン

• RQ1 どの特定の特徴量をソースドメインでターゲットドメインとアライメントすることで、分類性能を最大限に向上させられるか？
• RQ2 ドメインアライメントをどのように明示的に設計すれば、分類タスクに能動的に貢献するようになるか？（並行的な最適化ではなく、分類タスクを先制的に支援する形で。）
• RQ3 分類タスクから得られるメタ知識を用いて、アライメントのための特徴選択をガイドすることは可能か？ その結果、適応効果が向上するか？
• RQ4 タスク識別的特徴量のみをアライメントすることで、ノイズや関連性のない特徴量による干渉を低減できるか？
• RQ5 タスクに意識的なアライメントを組み込むシンプルで効率的な手法は、複雑な最適化を伴わず、最先端の性能を達成できるか？

主な発見

• ToAlignはOffice-Homeで最先端性能を達成し、従来のSOTA手法比で最大1.2%の精度向上を達成した。
• VisDA-2017では、HDA+ToAlignがHDAを0.9%上回り、困難なドメインシフト状況下でも一貫した向上を示した。
• ResNet-101を用いたDomainNetでは、ToAlignがベースライン性能を0.9%向上させ、マルチソースUDA手法の中でも最高の結果を達成した。
• ワンショットおよびスリーショットのSSDA設定でも、HDA+ToAlignはすべての先行手法を上回り、それぞれ0.6%および1.2%の精度向上を達成した。
• ToAlignはベースラインのDANNP比でわずか7%の追加計算コストしか増やさない一方、DANNP+MetaAlignはメタ最適化のため、計算コストがほぼ2倍に増加した。
• 特徴量可視化の結果、ToAlignはタスクに関連する領域に注目しているのに対し、ベースライン手法はしばしば背景や識別的でない特徴量に注目していることが確認された。