[論文レビュー] Learning from Positive and Unlabeled Data with Arbitrary Positive Shift

Zayd Hammoudeh, Daniel Lowd|arXiv (Cornell University)|Feb 24, 2020

Machine Learning and Algorithms参考文献 45被引用数 19

ひとこと要約

本論文は、ラベル付き陽性データがターゲット分布に対して非代表的である可能性のある任意の陽性シフト下での陽性-未ラベル（PU）学習のための新規フレームワークを提案する。ラベル付き陽性データがターゲット分布に対して非代表的である可能性がある状況において、ソースおよびターゲットドメインからの2つの未ラベルデータセットを活用し、負クラスの分布が固定されていると仮定することで、2つの統計的に一貫性のある手法—PU2aPNU（PU学習と未ラベル-未ラベル学習を組み合わせた2段階手法）およびPURR（再帰的リスク推定器）—を導入した。これらの手法は、正のクラス条件付きサポートが不一致であっても、多様なデータセットで最先端の性能を達成する。

ABSTRACT

Positive-unlabeled (PU) learning trains a binary classifier using only positive and unlabeled data. A common simplifying assumption is that the positive data is representative of the target positive class. This assumption rarely holds in practice due to temporal drift, domain shift, and/or adversarial manipulation. This paper shows that PU learning is possible even with arbitrarily non-representative positive data given unlabeled data from the source and target distributions. Our key insight is that only the negative class's distribution need be fixed. We integrate this into two statistically consistent methods to address arbitrary positive bias - one approach combines negative-unlabeled learning with unlabeled-unlabeled learning while the other uses a novel, recursive risk estimator. Experimental results demonstrate our methods' effectiveness across numerous real-world datasets and forms of positive bias, including disjoint positive class-conditional supports. Additionally, we propose a general, simplified approach to address PU risk estimation overfitting.

研究の動機と目的

• ラベル付き陽性データがターゲット陽性分布に対して任意に非代表的である場合に、陽性-未ラベル学習の課題に対処すること。
• 時間的ドリフト、ドメインシフト、または敵対的操作によってしばしば破綻する、代表的陽性データの強い仮定を緩和すること。
• ラベル付きデータとターゲットデータの正のクラス条​​件付きサポートが不一致であっても、依然として有効である統計的に一貫性のある手法を開発すること。
• 一般化可能な補正法（abs-PU）を用いてPUリスク推定における過学習を軽減し、最適化を単純化してPU学習の幅広い設定に適用可能にすること。

提案手法

• PU2aPNUを提案。まず標準的なPU学習を実行し、その後未ラベル-未ラベル（UU）学習を用いて陽性分布シフトを補正する2段階手法。
• PURRを導入。再帰的にソースとターゲット分布の関係をモデル化することで、任意の陽性シフト下でも一貫性のあるリスク推定を可能にする新規の再帰的リスク推定器。
• PUリスク推定における過学習を是正するため、abs-PU法を採用。最適化を単純化し、一般化性能を向上。
• 唯一、負クラス分布を固定する必要があるという鍵となる洞察に依拠。これにより、正クラスにおける任意のシフトに耐えられる。
• ソースとターゲットからの2つの未ラベルデータセットを用い、真のリスクを推定し、陽性分布シフトを補正。
• 密度比推定と事前確率補正を活用して、特に事前確率の誤推定が生じる状況でも、分布間のリスク推定器を整合させる。

実験結果

リサーチクエスチョン

• RQ1 代表的ラベル付き陽性データを必要とせずに、任意の陽性分布シフトに対して耐性を持つPU学習は可能か？
• RQ2 ラベル付きとターゲットの陽性分布のサポートが不一致であっても、統計的に一貫性のあるリスク推定は可能か？
• RQ3 特に複雑なモデルを用いる場合に、PUリスク推定における過学習はどのように効果的に軽減できるか？
• RQ4 事前確率の誤推定がPU学習手法の性能に与える影響は何か？また、どのようにしてその影響に強くすることができるか？
• RQ5 提案手法（PU2aPNUとPURR）は、多様な実世界データセットにおいて、最先端のPUおよびバイアス付きPU学習手法と比較してどのように差をつけるか？

主な発見

• PU2aPNUおよびPURRは、MNIST、20 Newsgroups、CIFAR10など、多様な実世界データセットにおいて、さまざまな形の陽性バイアス下で最先端のPUおよびbPU学習手法を上回る性能を発揮した。
• 正のクラス条​​件付きサポートが不一致であっても、強い性能を発揮し、任意の陽性シフト下でのPU学習の可能性を実証した。
• 事前確率の誤推定を伴う実験では、PU2aPNUが最も事前確率の誤指定に対して感受性が低く、PURRは訓練とテストの事前確率が逆方向に誤指定された場合に最も性能が低下した（これはその事前確率比依存性によるもの）。
• abs-PU法はリスク推定における過学習を効果的に低減し、一般化性能の向上と、提案されたaPU学習フレームワークにおける最適化の簡素化に寄与した。
• MNISTデータセットでは、事前確率が正しく指定された条件下で、PURRは誤分類率12.9%を達成したのに対し、PU2aPNUは7.4%を達成した。
• スパムメールデータセットを用いた敵対的aPU学習の実験では、提案手法が既存のベースラインを著しく上回り、動的で現実世界の設定でも高い耐性を示した。