[論文レビュー] Rethinking Class-Prior Estimation for Positive-Unlabeled Learning

Yue Yu, Tongliang Liu+5 more|arXiv (Cornell University)|Feb 10, 2020

Machine Learning and Data Classification被引用数 6

ひとこと要約

本稿では、分布仮定フリーなクラス・プライオリティ推定（CPE）における正例-不正例（PU）学習の分布仮定フリー性を高めるために、補助的正例分布を構築することで、不可削減性仮定の必要性を排除する、Regrouping Class-Prior Estimation（ReCPE）を提案する。この仮定が破られる場合に既存のCPE手法が示す正例バイアスを低減し、多数の実世界データセットおよび最先端手法において一貫して推定精度を向上させる。

ABSTRACT

Given only positive (P) and unlabeled (U) data, PU learning can train a binary classifier without any negative data. It has two building blocks: PU class-prior estimation (CPE) and PU classification; the latter has been well studied while the former has received less attention. Hitherto, the distributional-assumption-free CPE methods rely on a critical assumption that the support of the positive data distribution cannot be contained in the support of the negative data distribution. If this is violated, those CPE methods will systematically overestimate the class prior; it is even worse that we cannot verify the assumption based on the data. In this paper, we rethink CPE for PU learning-can we remove the assumption to make CPE always valid? We show an affirmative answer by proposing Regrouping CPE (ReCPE) that builds an auxiliary probability distribution such that the support of the positive data distribution is never contained in the support of the negative data distribution. ReCPE can work with any CPE method by treating it as the base method. Theoretically, ReCPE does not affect its base if the assumption already holds for the original probability distribution; otherwise, it reduces the positive bias of its base. Empirically, ReCPE improves all state-of-the-art CPE methods on various datasets, implying that the assumption has indeed been violated here.

研究の動機と目的

• PU学習における分布仮定フリーなクラス・プライオリティ推定（CPE）の重要な制限を解決する。この制限は、正例のサポートが負例のサポートに含まれないという不可削減性仮定に依存している。
• この仮定は実際には頻繁に破られ、データからは検証できないため、クラス・プライオリティの系統的過大評価を引き起こす。
• 不可削減性仮定の必要性を排除しつつ、仮定が成立する場合に既存のCPE手法の一貫性を維持する汎用的な解決策を提案する。
• 正例データ分布に再グループ化変換を適用することで、すべての既存CPE手法を強化するフレームワークを開発する。
• 実験的に、ReCPEが多数の実世界データセットおよび最先端CPE手法において推定精度を向上させることを示す。

提案手法

• 元の正例サンプルを再グループ化することで、補助的正例分布 $P_{\mathrm{p^\prime}}$ を導入し、$P_{\mathrm{p^\prime}}$ のサポートが負例分布 $P_{\mathrm{n}}$ のサポートに含まれないことを保証する。
• 元の $(P_{\mathrm{p}}}, P_{\mathrm{u}})$ の代わりに、変換されたデータペア $(P_{\mathrm{p^\prime}}}, P_{\mathrm{u}})$ に対して、任意の既存の分布仮定フリーCPE手法を適用する。
• 再グループ化プロセスにより、$P_{\mathrm{p^\prime}}$ が $P_{\mathrm{u}}$ に占める最大割合 $\kappa^*$ が、元のデータが不可削減性仮定を破る場合でも真のクラス・プライオリティ $\pi$ に等しくなるように保証される。
• 理論的分析により、不可削減性仮定が成立する場合にはReCPEが性能を低下させず、仮定が破られる場合には正例バイアスが低減することが示される。
• この手法はベースとなるCPE手法に依存しないため、任意の既存の分布仮定フリーCPEアプローチと統合可能である。
• 再グループ化は、無作為化または再重み付け戦略として実装され、無作為データの周辺分布を保持しつつ、正例分布のサポート構造を変更する。

実験結果

リサーチクエスチョン

• RQ1 不可削減性仮定の違反に強く、分布仮定を必要としないクラス・プライオリティ推定は可能か？
• RQ2 正例データのサポートが常に負例のサポートに含まれないような補助的正例分布を構築することは可能か？
• RQ3 提案された再グループ化手法は、既存の分布仮定フリーCPE手法のバイアスおよび精度にどのように影響を与えるか？
• RQ4 ReCPEフレームワークは、多様な実世界データセットおよび複数のCPEベースラインにおいて推定性能を向上させるか？
• RQ5 再グループ化アプローチは、既存のCPE手法のコアアルゴリズムを変更せずに普遍的に適用可能か？

主な発見

• ReCPEは、全テスト済みの実世界データセットにおいて推定誤差を顕著に低減し、ReAM（再グループ化されたAlphaMax）は平均誤差0.100を達成し、元のAMの0.116よりも小さい。
• 3200サンプルのロボットデータセットでは、ReKM2が誤差を0.039から0.038に、ReRPGが0.076から0.075に低下させ、一貫した改善が確認された。
• 3200サンプルのシャトルデータセットでは、ReKM2が誤差を0.028から0.026に、ReROCが0.038から0.028に低下させ、顕著な性能向上が示された。
• 全データセットおよび手法の平均推定誤差は、ベースラインの0.116からReCPEの0.100に低下し、Wilcoxon符号順位検定のp値から統計的有意性が確認された。
• ReCPEは、AlphaMax、DEDPUL、Elkan-Noto、KM1、KM2、ROC、Rankpruningを含む、すべての最先端CPE手法を、全サンプルサイズおよびデータセットで向上させた。
• 実験的結果により、実世界データにおいて不可削減性仮定が頻繁に破られることが確認され、ReCPEの必要性が裏付けられた。