[論文レビュー] Towards Inheritable Models for Open-Set Domain Adaptation

Jogendra Nath Kundu, Naveen Venkat+3 more|arXiv (Cornell University)|Apr 9, 2020

Domain Adaptation and Few-Shot Learning参考文献 7被引用数 16

ひとこと要約

本論文は、元のソースデータセットにアクセスできない状況でも、事前学習済みモデルを新しいターゲットドメインに適応可能な継承可能モデルを導入する。モデルの継承可能性を信頼度ベースの指標で定量化することで、最適なモデル選択が可能となり、ソースデータなしでもオープンセットDAで最先端の性能を達成する。

ABSTRACT

There has been a tremendous progress in Domain Adaptation (DA) for visual recognition tasks. Particularly, open-set DA has gained considerable attention wherein the target domain contains additional unseen categories. Existing open-set DA approaches demand access to a labeled source dataset along with unlabeled target instances. However, this reliance on co-existing source and target data is highly impractical in scenarios where data-sharing is restricted due to its proprietary nature or privacy concerns. Addressing this, we introduce a practical DA paradigm where a source-trained model is used to facilitate adaptation in the absence of the source dataset in future. To this end, we formalize knowledge inheritability as a novel concept and propose a simple yet effective solution to realize inheritable models suitable for the above practical paradigm. Further, we present an objective way to quantify inheritability to enable the selection of the most suitable source model for a given target domain, even in the absence of the source data. We provide theoretical insights followed by a thorough empirical evaluation demonstrating state-of-the-art open-set domain adaptation performance.

研究の動機と目的

• オープンセットドメイン適応において、ソースとターゲットのデータセットが同時に必要とされる実用的制限を解消すること。
• クライアントがソースデータにアクセスできないベンダー・クライアントモデルの枠組みにおいて、モデルの適応を可能にすること。
• 特定のターゲットドメインに対して最も適したソースモデルを特定するための、測定可能な知識継承可能性の形式的定式化。
• 適応段階でソースデータに依存しない、オープンセットDAで最先端の性能を達成する手法の開発。

提案手法

• 事前学習済みモデルが、ソースデータなしで未学習のターゲットドメインにタスク固有の知識を継承できる「継承可能モデル」の概念を導入。
• 分類器の信頼度に基づく指標、すなわちモデル継承可能性（I）を提案。これにより、ソースモデルがターゲットドメインにどれほど適応可能であるかを客観的に測定可能となる。
• 信頼度に基づく選択戦略を用いて、ターゲットインスタンスの疑似ラベルを生成。高い信頼度は共有クラスへの良好な一般化と相関していることを利用。
• 二段階の適応プロセスを採用：まず、クライアントがベンダー提供の事前学習済み重みでターゲットモデルを初期化。次に、未ラベルターゲットデータとプロキシベースのドメイン整合性損失を用いて微調整。
• 事前分類器空間における共有クラスと未知クラスの分離度を測るため、プロキシベースの距離（A→D距離）を適用。これにより、悪化する知識伝達（ネガティブトランスファー）に対する耐性が向上。
• ベンダーが一度だけモデルを訓練し、その後複数のクライアントが再利用可能なトレーニングパイプラインを導入。これにより、全体のトレーニングコストが削減される。

実験結果

リサーチクエスチョン

• RQ1 元のソースデータにアクセスできない状況でも、事前学習済みモデルを新しいターゲットドメインに効果的に適応できるか？
• RQ2 特定のターゲットドメインに対して、ソースモデルの継承可能性を客観的に測定する方法は何か？ これにより、モデル選択が最適化可能か？
• RQ3 疑似ラベル生成における信頼度ベースの選択戦略は、オープンセットDAにおける適応性能を向上させられるか？
• RQ4 提案手法は、ベンダー・クライアントモデルの枠組み下で、オープンセットドメイン適応において最先端の性能を達成できるか？

主な発見

• 提案手法は、Office-31 などの標準的なオープンセットDAベンチマークで、適応段階でソースデータにアクセスできない状況でも、最先端の性能を達成した。
• モデル継承可能性（I）は適応性能を的確に予測する：I値が高いほど、下流の精度も向上し、信頼性の高いモデル選択が可能となった。
• Office-31 A→D タスクにおいて、ソースデータを一切使用しないにもかかわらず、STA などの最先端手法と同等の性能を達成した。
• 信頼度ベースの疑似ラベル生成戦略により、初期化段階で上位15%のターゲットサンプルについて90%以上の精度を達成。適応が進むにつれてさらに向上した。
• 総トレーニングコストは顕著に削減された：提案手法（ベンダー学習＋クライアント適応を含む）は435秒、ソースデータを用いた複数クライアントの学習では1150秒を要した。
• t-SNE可視化により、継承可能モデルが学習した特徴空間が、共有クラスと未知クラスの間に良好な分離を維持していることが確認され、ネガティブトランスファーのリスクが最小限に抑えられた。