[論文レビュー] Iterative Machine Teaching

Weiyang Liu, Bo Dai+6 more|arXiv (Cornell University)|May 30, 2017

Machine Learning and Algorithms参考文献 23被引用数 56

ひとこと要約

この論文は、教師が逐次的に例を提供して反復的な learner の収束を加速させる iterative machine teaching を導入し、理論的保証と実験を備えたアルゴリズムを開発する。

ABSTRACT

In this paper, we consider the problem of machine teaching, the inverse problem of machine learning. Different from traditional machine teaching which views the learners as batch algorithms, we study a new paradigm where the learner uses an iterative algorithm and a teacher can feed examples sequentially and intelligently based on the current performance of the learner. We show that the teaching complexity in the iterative case is very different from that in the batch case. Instead of constructing a minimal training set for learners, our iterative machine teaching focuses on achieving fast convergence in the learner model. Depending on the level of information the teacher has from the learner model, we design teaching algorithms which can provably reduce the number of teaching examples and achieve faster convergence than learning without teachers. We also validate our theoretical findings with extensive experiments on different data distribution and real image datasets.

研究の動機と目的

• 学習者がバッチではなく逐次的に更新される場合の machine teaching の研究動機を喚起する。
• iterative teaching フレームワークを定義し、収束に必要なラウンド数として teaching complexity を定量化する。
• 異なるレベルの教師情報の下で3つの iterative teaching アルゴリズムを開発・分析する。
• iterative teaching がランダムな teaching より明らかに収束を改善する条件を確立する。
• synthetic および real image データセット の実験で理論的成果を検証する。

提案手法

• 各ラウンドで教師が1つの例 (x, y) を選択して固定された反復学習者を導く、iterative machine teaching を定式化する。
• 更新誤差を difficulty term T1 と usefulness term T2 に分解・定義して例の選択を導く。
• learner の誤差変化を各反復ごとに最小化する omniscient teacher アルゴリズムを導出し、より速い収束の条件を証明する。
• 教師が learner のパラメータに十分にアクセスできない設定での surrogate および imitation 教師 を導入する。
• synthesis、combination、rescalable pool-based schemes を通じて teaching capability を特徴づけ、適切な条件下で指数的なスピードアップを示す。
• Teaching monotonicity (TV(w)) や universal speedup criteria のような理論的性質を探索する。

実験結果

リサーチクエスチョン

• RQ1 各反復で教師が提供すべき逐次例のシーケンスは、収束を速めるためにどのように設計すべきか？
• RQ2 目標精度または最適解に近い learner を達成するには、何回の teaching ラウンド（例）が必要か？
• RQ3 iterative teachers が random な学習より明らかに優れている条件は何か？
• RQ4 教師情報のレベル（omniscient、surrogate、imitation）が収束保証にどのように影響するか？
• RQ5 teaching monotonicity と teaching capability は speedups を達成する上でどのような役割を果たすか？

主な発見

• 適切な条件下で、iterative teachers は teacher なしの訓練よりも速い収束を達成できる。
• 論文は teaching monotonicity と teaching capability を、速い反復的 teaching を可能にする主要な要因として特定し、潜在的な指数的改善を示す。
• synthetic および real image データでの経験的結果は、理論的主張を裏付け、提案された teaching 戦略でより速い収束を示す。
• 異なる教師モデル（omniscient、surrogate、imitation）は、同じまたは異なる特徴空間であっても、SGD/バッチ GD よりも効果的である場合が多い。