[論文レビュー] An Overview of Machine Teaching

Xiaojin Zhu, Adish Singla+2 more|arXiv (Cornell University)|Jan 18, 2018

Machine Learning and Algorithms参考文献 8被引用数 101

ひとこと要約

本論文は機械教示を多次元の問題空間として整理し、教示を二重最適化（ビレベル最適化）で形式化し、人間/機械の相互作用、信号、シーケンス、および攻撃者/味方の役割にわたる理論的・実践的方向性を調査する。

ABSTRACT

In this paper we try to organize machine teaching as a coherent set of ideas. Each idea is presented as varying along a dimension. The collection of dimensions then form the problem space of machine teaching, such that existing teaching problems can be characterized in this space. We hope this organization allows us to gain deeper understanding of individual teaching problems, discover connections among them, and identify gaps in the field.

研究の動機と目的

• 機械教示が従来の機械学習およびアクティブラーニングとどのように異なるかを明確にする。
• 教示問題を特徴づける多次元空間を導入する。
• 教示の形式的定義とビレベル最適化の定式化を提示する。
• 分野を跨いだ応用、理論的問題、および実践的な研究方向性を調査する。

提案手法

• 最小の教示集合を示すために具体例（例：1D閾値およびハードマージンSVM）を提示する。
• 教師と学習者を結合するビレベル最適化問題として機械教示を形式化する（式2–5）。
• TeachingRiskとTeachingCost（式4）を用いた一般化教示フレームワークと制約付き変種（6、9）を導入する。
• 教示空間を次元（人間/機械、教示信号、バッチ対逐次、モデルベース対モデルフリー、学生の認識、1対多数、天使的対攻撃的、理論対実証）に沿って特徴づける。
• 教示次元の概念（TD、RTD、PBTD）とVC次元およびサンプル圧縮との関連について論じる。
• アルゴリズム論、ヒューマン-ロボット相互作用、教育を含む研究の方向性を提案する。

実験結果

リサーチクエスチョン

• RQ1 領域を横断する機械教示を最も適切にとらえる正式な定義と最適化フレームワークは何か？
• RQ2 さまざまな次元（信号タイプ、学習者モデル、シーケンス、認識）が教示の効率性と実現性にどう影響するか？
• RQ3 教示概念（TD、RTD、PBTD）と古典的学習理論（VC次元、サンプル圧縮）との関係は何か？
• RQ4 教育や人間とコンピュータの相互作用への機械教示の適用方法、データ中毒などの敵対的設定を含む。

主な発見

• 教示は対象となる学習を、驚くほど小さな教示集合（例：1D閾値では2点；SVM境界には多数の教示集合が存在）で達成できる。
• ビレベル最適化の定式化は、教員と学習者の相互作用と教示リスクと教示コストのトレードオフを捉える。
• 多様なシナリオをモデル化できる豊かな次元空間は、人間教育から中毒攻撃、家庭教師システムに至るまでの多彩な状況を可能にする。
• TD、RTD、PBTDのような教示概念は受動学習の複雑さと関係し、バージン空間学習器を超えてリッジ回帰/ロジスティック回帰およびSVMのようなモデルにも拡張できる。
• 教示の複雑さをVC次元やサンプル圧縮に関連づける研究と、適応的・対話的・記憶制限付き教示設定の研究が進行中である。