[論文レビュー] Towards Mixture Proportion Estimation without Irreducibility.

Yu Yao, Tongliang Liu+5 more|arXiv (Cornell University)|Feb 10, 2020

Machine Learning and Algorithms参考文献 30被引用数 5

ひとこと要約

本稿では、観測済み成分が未観測成分の混合であるという不可還元仮定に依存しない、新しい混合割合推定手法であるRegrouping-MPEを提案する。元の問題を新たな不可還元MPE問題に変換することで、不可還元仮定が成り立たない場合の推定バイアスを低減する。実世界のデータセットにおいて、すべての最先端手法を上回る性能を発揮する。

ABSTRACT

extit{Mixture proportion estimation} (MPE) is a fundamental problem of practical significance, where we are given data from only a extit{mixture} and one of its two extit{components} to identify the proportion of each component. All existing MPE methods that are distribution-independent explicitly or implicitly rely on the extit{irreducible} assumption---the unobserved component is not a mixture containing the observable component. If this is not satisfied, those methods will lead to a critical estimation bias. In this paper, we propose extit{Regrouping-MPE} that works without irreducible assumption: it builds a new irreducible MPE problem and solves the new problem. It is worthwhile to change the problem: we prove that if the assumption holds, our method will not affect anything; if the assumption does not hold, the bias from problem changing is less than the bias from violation of the irreducible assumption in the original problem. Experiments show that our method outperforms all state-of-the-art MPE methods on various real-world datasets.

研究の動機と目的

• 既存の分布に依存しないMPE手法が不可還元仮定に依存するという顕著な制限を解消すること。この仮定が破られる場合、深刻な推定バイアスが生じる可能性がある。
• 未観測成分が観測済み成分を含む混合である場合でも、有効に機能する手法を開発すること。
• 元のMPE問題を、不可還元仮定が成り立つ場合に推定精度を保ち、成り立たない場合にはバイアスを低減する新たな不可還元MPE問題に再定式化すること。
• 提案手法が多様な実世界データセットにおいて、すべての最先端MPE技術を上回ることを実証的に検証すること。

提案手法

• Regrouping-MPEは、新しい未観測成分が本質的に不可還元であることを保証するようにデータを再編成することで、新たなMPE問題を構築する。
• 元のデータ混合と成分を、不可還元性が設計上保証される新たな構成に変換する。
• データの構造的性質を活用して、不可還元仮定を満たす新たな混合と成分のペアを生成する。
• 新たな問題の解を用いて元の混合割合を推定し、バイアス低減に関する理論的保証を得る。
• 元の仮定が成り立つ場合、結果は従来手法と同一となることを保証する。仮定が成り立たない場合、導入されるバイアスは従来手法のバイアスよりも小さい。
• 本手法は分布に依存せず、下位の成分分布を明示的にモデル化する必要がない。

実験結果

リサーチクエスチョン

• RQ1 不可還元仮定が破られる状況においても、顕著なバイアスを生じさせることなく、混合割合推定を信頼性高く行うことは可能か？
• RQ2 非不可還元MPE問題を、推定精度を損なわずに同等の不可還元問題に変換することは可能か？
• RQ3 問題変換によって生じるバイアスは、標準的なMPE手法が不可還元仮定を破った場合に生じるバイアスと比較してどうなるか？
• RQ4 提案手法は、多様な実世界データセットにおいて一貫して、既存のSOTA MPE技術を上回る性能を発揮するか？

主な発見

• Regrouping-MPEは不可還元仮定への依存を完全に排除し、従来手法が失敗する状況でも正確な混合割合推定を可能にする。
• 不可還元仮定が成り立つ場合、本手法は従来手法と同一の結果を生成するため、性能の損失がない。
• 仮定が破られる場合、Regrouping-MPEが導入するバイアスは、標準的なMPE手法が生じるバイアスよりも厳密に小さい。
• 多様な実世界データセットにおける実証的評価から、Regrouping-MPEはすべての最先端MPE手法を推定精度の面で上回ることが示された。
• 本手法は異なるデータ分布や成分の重複パターンに対しても、頑健性を維持する。
• 変換プロセスにより、新たなMPE問題は常に不可還元であることが保証され、安定的かつ信頼性の高い推定フレームワークを提供する。