[論文レビュー] Class Prior Estimation under Covariate Shift: No Problem?

Dirk Tasche|arXiv (Cornell University)|Jun 6, 2022

Advanced Statistical Methods and Models被引用数 5

ひとこと要約

この論文は、クラス条件付き確率がソースおよびターゲット分布間で不変であるという共変量シフト—これは、特徴の簡略化や変換によって破壊され、単純なクラス事前確率推定法（例：分類して数える）が無効になる—が、脆弱であることを示している。主な貢献は、共変量シフトを保存するのは統計的意味での十分統計量に限られることを証明し、このような状況下での信頼できる推定には高度な手法（例：プローブ法）が必要であることを示している。

ABSTRACT

We show that in the context of classification the property of source and target distributions to be related by covariate shift may be lost if the information content captured in the covariates is reduced, for instance by dropping components or mapping into a lower-dimensional or finite space. As a consequence, under covariate shift simple approaches to class prior estimation in the style of classify and count with or without adjustment are infeasible. We prove that transformations of the covariates that preserve the covariate shift property are necessarily sufficient in the statistical sense for the full set of covariates. A probing algorithm as alternative approach to class prior estimation under covariate shift is proposed.

研究の動機と目的

• 次元削減または特徴変換の下での共変量シフトのロバスト性を調査すること。
• 共変量が簡略化されたり低次元空間にマップされたりする場合に、共変量シフトの性質が保存される条件を同定すること。
• 共変量シフト下で単純なクラス事前確率推定法（例：分類して数える）の実現可能性に疑問を呈すること。
• 共変量シフトが保存される場合に、一貫したクラス事前確率推定が可能な代替手法（プローブ法）を提案・正当化すること。
• 統計的十分性の観点から、事前確率シフトと共変量シフトの理論的境界を明確にすること。

提案手法

• 離散的および連続的共変量を厳密に取り扱うために測度論的枠組みで問題を形式化すること。
• ソースおよびターゲット分布間での事後クラス確率の不変性によって共変量シフトを定義すること。
• 変換された共変量集合が共変量シフトを保存するのは、ソース分布下で元の共変量に対して十分統計量である場合に限ることを証明すること。
• 複数のしきい値におけるコスト感受性分類器を訓練して、クラス事前確率推定に活用するプローブベースの手法を提案すること。
• しきい値ごとの分類器出力の平均値を重み付き和として用いて、ターゲットのクラス事前確率を推定すること。
• 最終推定の前に、ターゲット分布上で分類器の性能を繰り返し改善するためのリファインメントステップを適用すること。

実験結果

リサーチクエスチョン

• RQ1 共変量の集合が低減されたり変換されたりした場合、共変量シフトの性質が保存される条件は何か？
• RQ2 なぜ単純なクラス事前確率推定法（例：分類して数える）は、共変量シフト下では失敗するが、事前確率シフト下では成功するのか？
• RQ3 変換された共変量集合が共変量シフトの性質を維持するための数学的条件は何か？
• RQ4 単純な手法が失敗する共変量シフト下で、プローブ法をどのように調整すれば一貫したクラス事前確率推定が可能になるか？
• RQ5 特徴変換の下で、事前確率シフトと共変量シフトのロバスト性に根本的な違いはあるか？

主な発見

• 共変量シフトは共変量の任意の変換に対して保持されない。唯一、統計的意味での十分統計量のみが、事後クラス確率の不変性を維持する。
• 変換下で共変量シフトを保存する必要十分条件は、新しい共変量集合がソース分布下で元の共変量に対して十分統計量であることである。
• 事前確率シフトとは異なり、共変量シフトは特徴の低減に対して脆弱であり、成分を削除するか低次元空間にマップすることで破壊される可能性がある。
• 事前確率シフト下では有効な誤分類行列法や「調整済みカウント」アプローチは、共変量シフト下では事後確率不変性が失われるため失敗する。
• プローブ法—複数のしきい値におけるコスト感受性分類器のアンサンブルを用いる—は、共変量シフト下での一貫したクラス事前確率推定の実用的代替手段を提供する。
• 理論的分析により、連続的共変量にLebesgue密度が存在する場合、4要素以下の部分σ代数は十分統計量にはなり得ないことが示され、このような状況では単純な推定器は排除される。