[論文レビュー] Learning from partial correction

Sanjoy Dasgupta, Michael Luby|arXiv (Cornell University)|May 23, 2017

Machine Learning and Algorithms参考文献 5被引用数 4

ひとこと要約

本稿は、完全なラベルではなく、予測のうち誤りのある1つの構成要素のみを修正する専門家による部分的補正を用いる、新しいインタラクティブな学習モデルを提案する。統計的一般化バウンドを確立し、敵対的で部分的なフィードバックでも、i.i.d. 学習と同等の収束速度が達成されることを示し、構成要素独立のクエリ分布下での一貫性のある仮説選択において最適な標本複雑性を達成する。

ABSTRACT

We introduce a new model of interactive learning in which an expert examines the predictions of a learner and partially fixes them if they are wrong. Although this kind of feedback is not i.i.d., we show statistical generalization bounds on the quality of the learned model.

研究の動機と目的

• 専門家が完全なラベルを提供するのではなく、誤った予測の一部のみを修正する新しいインタラクティブな学習パラダイムを形式化すること。
• 部分的補正フィードバック（i.i.d. ではない）における学習の統計的一般化特性を分析すること。
• 専門家がフィードバックを敵対的に選択しても、部分的補正における収束速度が i.i.d. フィードバックと同等であることを示すこと。
• 部分的補正モデル下で、仮説選択における $\epsilon$-誤差を達成するためのタイトな標本複雑性バウンドを確立すること。
• 自然な誤差指標およびクエリ分布に関して、提案されたアルゴリズムの最適性を実証すること。

提案手法

• モデルは仮説クラス $\mathcal{H}$ とクエリ空間 $\mathcal{Q}$ を仮定し、各クエリ $q$ は $c$ 個の原子的構成要素 $ (q,1), \dots, (q,c) $ を持ち、分類学的三つ組などの部分構造を表す。
• 各学習ステップで、分布 $\mu$ からi.i.d. にクエリ $q$ が抽出され、専門家は予測 $h(q)$ を受け入れるか、1つの誤った構成要素 $j$ を修正して $h^*(q,j)$ を返す。
• 学習者は、すべてのフィードバックと整合する仮説のバージョンスペースを維持し、2段階のアルゴリズムを用いる：段階1は、誤差が小さい仮説が見つかるまでフィードバックを収集する段階であり、段階2はその仮説を精緻化する段階である。
• 一般化バウンドは、原子的構成要素 $ (q,j) $ に対する変換された分布 $\bar{\mu}$ を用いて導出され、ここで $ \bar{\mu}(q,j) = \mu(q)/c $ であり、構成要素レベルの誤差と全クエリ誤差の関係を確立する。
• 理論的分析は、集中不等式と、整合性を追跡し、整合性のない仮説を除外するための重み付きフィードバックカウント $ \widehat{W}_t(\bar{\mathcal{Q}}) $ に依存する。
• 下界が証明され、$ \frac{c \log |\mathcal{H}|}{\log c \cdot \epsilon} $ の $c$ および $\epsilon$ への依存は避けがたいことが示され、最適性が確立される。

実験結果

リサーチクエスチョン

• RQ1 1つのクエリあたり1つの構成要素のみが修正される部分的補正フィードバックを用いた学習でも、i.i.d. フィードバックと同等の一般化バウンドを達成できるか？
• RQ2 専門家がどの構成要素を修正するかを敵対的に選択しても、モデルは収束速度を維持できるか？
• RQ3 部分的補正下で、仮説選択における $\epsilon$-誤差を達成するための最適な標本複雑性は何か？
• RQ4 構成要素独立のクエリ分布は、構成要素レベル誤差と全クエリ誤差の関係にどのように影響するか？
• RQ5 標本複雑性における $c \cdot \log |\mathcal{H}| / (\log c \cdot \epsilon) $ への依存は避けがたいか？

主な発見

• 本稿は、敵対的専門家フィードバック下でも、一般化誤差 $ \mathrm{err}_c(h) $ が i.i.d. フィードバックと同等のレートで収束することを証明し、部分的補正モデルの頑健性を確立する。
• 一般化バウンドが確立された：確率 $1 - \delta$ 以上で、段階1終了後にバージョンスペースに残存する任意の仮説 $h$ に対して $ \mathrm{err}_c(h) < \epsilon $ が成り立ち、ここで $ \epsilon = 2\epsilon' $ である。
• $\epsilon$-誤差を達成するための標本複雑性は $ \frac{c \cdot \log |\mathcal{H}|}{\log c \cdot \epsilon} $ でバウンドされ、一致する下界によりその依存が最適であることが示される。
• 下界構成により、任意の $\ell, c, \epsilon$ に対して、サイズがおおよそ $c^\ell$ の仮説クラス $\mathcal{H}$ が存在し、$\epsilon$-誤差に到達するための期待クエリ数が $ \frac{c \cdot \log |\mathcal{H}|}{\log c \cdot \epsilon} $ に比例することが示される。
• 解析により、誤差バウンドにおける $c / \epsilon$ 依存は避けがたく、Lemma 3.4 および Theorem 5.1 によって確認される。
• 2段階学習アルゴリズムにより、$N$ ステップ後、$ \widehat{W}_N(\bar{\mathcal{Q}}) \geq (1 - \epsilon')N $ ならば、高確率で誤差 $ \leq \epsilon $ の仮説が存在し、選択可能であることが保証される。