[論文レビュー] A Generalized Neyman-Pearson Criterion for Optimal Domain Adaptation

Clayton Scott|arXiv (Cornell University)|Oct 3, 2018

Domain Adaptation and Few-Shot Learning参考文献 55被引用数 4

ひとこと要約

本稿では、二値分類における最適ドメイン適応のための一般化されたネイマン＝ピアソン基準——具体的には制御発見率（CDR）——を導入する。共変量シフトに伴う事後確率のずれ（すなわち、特徴量およびラベルの分布がソース分布とターゲット分布で異なる状況）においても、ソースデータのみで訓練された分類器が依然としてCDR基準を最適化できることを示しており、ターゲットデータのラベルなし、あるいはソースとターゲットの分布の類似性に関する制限のない仮定なしに、強力なドメイン適応を実現可能である。

ABSTRACT

In the problem of domain adaptation for binary classification, the learner is presented with labeled examples from a source domain, and must correctly classify unlabeled examples from a target domain, which may differ from the source. Previous work on this problem has assumed that the performance measure of interest is the expected value of some loss function. We introduce a new Neyman-Pearson-like criterion and argue that, for this optimality criterion, stronger domain adaptation results are possible than what has previously been established. In particular, we study a class of domain adaptation problems that generalizes both the covariate shift assumption and a model for feature-dependent label noise, and establish optimal classification on the target domain despite not having access to labelled data from this domain.

研究の動機と目的

• 従来のドメイン適応手法が期待損失に基づく性能指標に依存するという限界に対処すること。これらの手法はしばしばソースとターゲットの類似性に関する強い仮定を必要とする。
• より広範な分布シフトの下でより強いドメイン適応の保証を可能にする新たな最適性基準——制御発見率（CDR）——を考案すること。
• ラベルなしのターゲットデータを前提としながらも、共変量シフトと特徴量依存ラベルノイズ（事後確率のずれ）の組み合わせモデル下で最適分類が可能であることを確立すること。
• CDR基準が分布シフトに対して不変であることを実証し、これによりソースのみの学習でターゲットの最適パフォーマンスが達成可能であることを示すこと。

提案手法

• θ₁=1 および θ₀=π_Q を用いた一般化ネイマン＝ピアソン（GNP）基準を提案し、これによりCDR基準が特殊ケースとして得られることを示す。
• 制約として、発見率 D_Q(g) = Q_X(g(X)=1) を定義し、これはターゲット分布における正例予測の割合を表す。
• CDR基準下での最適分類器として尤度比検定（LRT）を用い、事後確率 η_Q(x) に基づくしきい値処理を行う。
• CDR下での最適分類器が事後確率のずれおよび共変量シフトに対して不変であることを確立し、これによりこれらの分布シフトに対して不変性を有することが可能であることを示す。
• 半教師あり設定におけるCDR最適化のための2つのアルゴリズムを導入し、特にカーネルロジスティック回帰に基づくレベル集合法を含む。
• CDR基準が共変量シフトと事後確率のずれの組み合わせのクラスに対して不変であることを証明し、これはソースのみの学習で最適なターゲットパフォーマンスが達成可能であることを意味する。

実験結果

リサーチクエスチョン

• RQ1 期待損失とは異なる性能基準が、現実的な分布シフトの下でより強いドメイン適応の保証を可能にするか？
• RQ2 ラベルなしのターゲットデータを前提としながらも、共変量シフトと事後確率のずれの組み合わせモデル下で最適ドメイン適応を達成できるか？
• RQ3 制御発見率（CDR）基準が分布シフトに対して不変であるか。これにより、ソースのみの学習で最適なターゲットパフォーマンスが達成可能か？
• RQ4 特徴量依存ラベルノイズ（FDLN）に対して、CDR基準は従来の0-1損失最小化と比べてどのように頑健性を示すか？
• RQ5 半教師ありドメイン適応におけるCDR基準最適化の理論的・アルゴリズム的基盤は何か？

主な発見

• CDR基準は共変量シフトおよび事後確率のずれの両方に対して不変であり、ターゲットドメインにおける最適分類がソースのみの学習で達成可能であることを意味する。
• CDR下での最適分類器は尤度比検定であり、事後確率 η_Q(x) をしきい値処理することで、一般化ネイマン＝ピアソンフレームワーク下での最適性を保証する。
• 本稿は、ソースとターゲットの分布の類似性に関する強い仮定を必要とせず、共変量シフトと事後確率のずれの組み合わせモデル下でのドメイン適応における最適性に関する初の結果を確立した。
• CDR基準は、従来の文献で要求されていた過度に制限的な仮定なしに、特徴量依存ラベルノイズ（FDLN）下でも最適なパフォーマンスを達成可能である。
• CDR最適化のための2つのアルゴリズムを提案し、特にカーネルロジスティック回帰に基づくレベル集合法の新しい解析を通じて、実用的妥当性を示した。
• 本稿の結果は、共変量シフトおよびFDLNに関する先行研究を一般化し、統一的でより現実的な分布モデル下で、より広範な理論的保証を提供する。