[論文レビュー] Pareto Domain Adaptation

Fangrui Lv, Jian Liang+6 more|arXiv (Cornell University)|Dec 8, 2021

Domain Adaptation and Few-Shot Learning被引用数 8

ひとこと要約

本稿では、代替分類損失と動的好みメカニズムを用いて、勾配に基づく最適化フレームワークであるPareto Domain Adaptation (ParetoDA)を提案する。このフレームワークは、Pareto最適解への動的ガイドを提供し、線形重み付け手法や固定好み手法を凌駆し、画像分類およびセマンティックセグメンテーションのベンチマークで最先端の性能を達成する。これは、ソース分類とドメイン整合性の目的の間でより良好なバランスを実現する。

ABSTRACT

Domain adaptation (DA) attempts to transfer the knowledge from a labeled source domain to an unlabeled target domain that follows different distribution from the source. To achieve this, DA methods include a source classification objective to extract the source knowledge and a domain alignment objective to diminish the domain shift, ensuring knowledge transfer. Typically, former DA methods adopt some weight hyper-parameters to linearly combine the training objectives to form an overall objective. However, the gradient directions of these objectives may conflict with each other due to domain shift. Under such circumstances, the linear optimization scheme might decrease the overall objective value at the expense of damaging one of the training objectives, leading to restricted solutions. In this paper, we rethink the optimization scheme for DA from a gradient-based perspective. We propose a Pareto Domain Adaptation (ParetoDA) approach to control the overall optimization direction, aiming to cooperatively optimize all training objectives. Specifically, to reach a desirable solution on the target domain, we design a surrogate loss mimicking target classification. To improve target-prediction accuracy to support the mimicking, we propose a target-prediction refining mechanism which exploits domain labels via Bayes' theorem. On the other hand, since prior knowledge of weighting schemes for objectives is often unavailable to guide optimization to approach the optimal solution on the target domain, we propose a dynamic preference mechanism to dynamically guide our cooperative optimization by the gradient of the surrogate loss on a held-out unlabeled target dataset. Extensive experiments on image classification and semantic segmentation benchmarks demonstrate the effectiveness of ParetoDA

研究の動機と目的

• ドメインシフトに起因する目的の衝突に起因して、線形重み付け手法が非凸なPareto最適解に到達できないこと、およびハイパーパrameterチューニングに敏感であるという制限を解消すること。
• ターゲットドメインのラベルが欠落していることによる、訓練中にターゲット分類損失を直接最適化できないという問題を克服すること。
• 最適な重みに関する事前知識を必要とせず、ソース分類とドメイン整合性の目的の間のトレードオフを適応的にガイドする動的最適化戦略を開発すること。
• 保持済みのターゲットデータへの過学習を回避しつつ、望ましい解への収束を効果的に導く最適化プロセスを保証すること。

提案手法

• 予測とドメインラベル間の相互情報量を活用して真のターゲット分類損失を近似する、ターゲット分類損失を模倣する（TCM）損失を導入する。
• ベイズの定理を用いたターゲット予測の精錬メカニズムを提案し、ターゲット予測の品質を向上させることで、TCM損失をターゲット性能の代理として強化する。
• 保持済みのラベルなしターゲットデータ上でのTCM損失の勾配を用いて、最適化方向をPareto最適解へと誘導する動的好みメカニズムを採用する。
• 勾配に基づく協調的最適化方式を採用することで、訓練中にいかなる目的の性能も劣化しないようにし、非凸なParetoフロント解への収束を可能にする。
• 代替損失と勾配誘導を用いて、訓練中に真のターゲット分類損失を直接最小化せずに、間接的に最小化することを実現する。
• 理論的分析により、保持済みのターゲットデータが過学習を引き起こさずに最適化を誘導することが確認され、一般化性能が保証される。

実験結果

リサーチクエスチョン

• RQ1 ドメインシフトに起因する目的の衝突がある状況下で、勾配に基づく最適化方式が線形重み付け手法を凌駆できるか？
• RQ2 ターゲット予測とドメインラベルに基づく代替損失が、真のターゲット分類損失を最小化する最適化を効果的に誘導できるか？
• RQ3 代替損失の勾配に適応する動的好みメカニズムが、望ましいPareto最適解への収束を改善できるか？
• RQ4 提案手法は目的のスケールの変動に対して頑健であり、異なるバックボーンアーキテクチャにも対応可能か？
• RQ5 線形重み付けおよび固定好み手法を凌駆し、分類およびセグメンテーションタスクの両方でより優れた性能を達成できるか？

主な発見

• ParetoDAは、ResNet-50を用いたDANNを用いて、Office-31 W→Aベンチマークで90.2%のトップ1正答率を達成し、ベースラインのDANN（82.2%）およびアブレーションバージョンを上回る。
• アブレーションスタディにより、TCM損失と動的好み学習の併用が最良の性能（90.2%）をもたらし、両者の必要性が裏付けられる。
• 最適化経路の可視化により、ParetoDAの軌道がターゲット分類損失の最小値への理想の経路に近く、線形手法や固定好み手法とは対照的である。
• 感度分析により、ParetoDAが目的のスケール変動に対して頑健であることが判明し、ソース損失およびドメイン整合性損失のスケール要因の変化に対しても一貫した性能を維持する。
• ParetoDAは、より深いバックボーンに対しても一貫して性能を向上させる：ResNet-50では67.4%（DANN）から76.3%（ParetoDA）へ、ResNet-101では74.5%から77.5%へ、ResNet-152では76.1%から79.0%へと向上する。
• 理論的分析により、保持済みのターゲットデータが過学習を引き起こさずに最適化を誘導することが確認され、一般化性能が保証される。