[論文レビュー] Noise-Tolerant Interactive Learning from Pairwise Comparisons with Near-Minimal Label Complexity

Yichong Xu, Hongyang Zhang+3 more|arXiv (Cornell University)|Apr 19, 2017

Machine Learning and Algorithms被引用数 2

ひとこと要約

本稿では、ノイズのあるラベルとペアワイズ比較オラクルの両方を活用して、クエリ複雑度を最小化するノイズ耐性のあるインタラクティブ学習アルゴリズムを提案する。学習問題をしきい値関数推定に還元することにより、両方のオラクルに対してTsybakovノイズおよび敵対的ノイズモデル下で、ほぼ最適なラベルおよび総クエリ複雑度を達成する。

ABSTRACT

We study the problem of interactively learning a binary classifier using noisy labeling and pairwise comparison oracles, where the comparison oracle answers which one in the given two instances is more likely to be positive. Learning from such oracles has multiple applications where obtaining direct labels is harder but pairwise comparisons are easier, and the algorithm can leverage both types of oracles. In this paper, we attempt to characterize how the access to an easier comparison oracle helps in improving the label and total query complexity. We show that the comparison oracle reduces the learning problem to that of learning a threshold function. We then present an algorithm that interactively queries the label and comparison oracles and we characterize its query complexity under Tsybakov and adversarial noise conditions for the comparison and labeling oracles. Our lower bounds show that our label and total query complexity is almost optimal.

研究の動機と目的

• ノイズのあるラベルとペアワイズ比較オラクルの両方を用いたインタラクティブな2値分類の研究。
• 比較オラクルへのアクセスが、ラベルおよび総クエリ複雑度をどの程度低減するかの理解。
• Tsybakovノイズおよび敵対的ノイズ条件の下で、両方のオラクルに対するクエリ複雑度の特徴付け。
• ノイズ環境下でほぼ最適なクエリ複雑度を達成するアルゴリズムの開発。

提案手法

• アルゴリズムは、ラベルおよび比較クエリを用いて、2値分類問題をしきい値関数の学習問題に還元する。
• 適応的にラベルオラクルからインスタンスのラベルをクエリし、比較オラクルから2つのインスタンスのうちどちらがより陽性である可能性が高いかを特定する。
• Tsybakovノイズ条件の下で、両方のオラクルのクエリ複雑度を分析する。ここでノイズ率は意思決定境界からの距離に応じて多項式的に減少する。
• また、ノイズが最悪ケースではあるが有界な敵対的ノイズも検討し、この設定下での複雑度バウンドを導出する。
• 理論的分析により、下界を確立し、提案アルゴリズムのクエリ複雑度がほぼ最適であることを示す。
• アクティブラーニングの原則とノイズ耐性技術を組み合わせることで、不完全なフィードバック下でも効率性を維持する。

実験結果

リサーチクエスチョン

• RQ1 ペアワイズ比較オラクルへのアクセスが、ノイズのあるインタラクティブ学習におけるラベルおよび総クエリ複雑度をどの程度低減するか。
• RQ2 Tsybakovノイズ下で、ラベルおよび比較オラクルの両方に対する学習の理論的クエリ複雑度は何か。
• RQ3 敵対的ノイズ条件下でも、アルゴリズムはほぼ最適なクエリ複雑度を達成できるか。
• RQ4 比較オラクルは、クエリ負荷を軽減するために、直接的なラベル付与をどの程度代替できるか。
• RQ5 しきい値関数学習への還元が、全体の学習効率をどのように向上させるか。

主な発見

• 提案アルゴリズムは、ラベルおよび比較オラクルの両方に対して、Tsybakovノイズ下でほぼ最小のラベルおよび総クエリ複雑度を達成する。
• 比較オラクルにより、学習問題がしきい値関数推定に還元され、効率的なクエリ戦略の実現が可能になる。
• 敵対的ノイズ下でも、アルゴリズムは強いクエリ複雑度バウンドを維持し、耐性を示す。
• 理論的下界により、ラベルおよび総クエリ複雑度がほぼ最適であることが確認される。
• 本手法は、ラベルと比較の依存度を効果的にバランスさせ、総クエリ数を最小化しながらノイズに耐性を持つ。