[論文レビュー] Preference-Based Batch and Sequential Teaching: Towards a Unified View of Models

Farnam Mansouri, Yuxin Chen+3 more|arXiv (Cornell University)|Oct 24, 2019

Machine Learning and Data Classification被引用数 18

ひとこと要約

本稿は、学習者の行動をモデル化する好み関数 Σ を用いた、アルゴリズム的機械学習指導の統一的枠組みを提案する。既存のバッチおよび逐次的指導モデルが特定の好み関数の族に対応することを示し、VC次元に関して線形の指導複雑度を示す新しい逐次的モデルを同定する。これは従来のバッチモデルの二次的複雑度よりも優れている。

ABSTRACT

Algorithmic machine teaching studies the interaction between a teacher and a learner where the teacher selects labeled examples aiming at teaching a target hypothesis. In a quest to lower teaching complexity and to achieve more natural teacher-learner interactions, several teaching models and complexity measures have been proposed for both the batch settings (e.g., worst-case, recursive, preference-based, and non-clashing models) as well as the sequential settings (e.g., local preference-based model). To better understand the connections between these different batch and sequential models, we develop a novel framework which captures the teaching process via preference functions $Σ$. In our framework, each function $σ\in Σ$ induces a teacher-learner pair with teaching complexity as $\TD(σ)$. We show that the above-mentioned teaching models are equivalent to specific types/families of preference functions in our framework. This equivalence, in turn, allows us to study the differences between two important teaching models, namely $σ$ functions inducing the strongest batch (i.e., non-clashing) model and $σ$ functions inducing a weak sequential (i.e., local preference-based) model. Finally, we identify preference functions inducing a novel family of sequential models with teaching complexity linear in the VC dimension of the hypothesis class: this is in contrast to the best known complexity result for the batch models which is quadratic in the VC dimension.

研究の動機と目的

• バッチおよび逐次的指導モデルを統一的に取り扱う理論的枠組みを構築すること。
• 異なるモデルにおける好み関数と指導複雑度の関係を分析すること。
• 従来のバッチモデルよりも明確に低い複雑度を示す新たな逐次的指導モデルを同定すること。
• 逐次の設定における「共謀不能な指導」の概念を形式化し、より自然な教師-学習者間の相互作用を可能にすること。

提案手法

• 教師-学習者間の相互作用を、各 σ が例の提示中にバージョン空間をどのように探索するかを定義する好み関数 σ ∈ Σ でモデル化する。
• 与えられた σ に対して、任意のターゲット仮説を教えるために必要な最小の例の数として、指導次元 TD(σ) を定義する。
• 既に知られている指導モデル（例：非衝突型、局所的好みベース）が、Σ_gvs や Σ_local といった特定の σ 関数族に対応することを示す。
• VC次元に線形に依存する指導複雑度を保証する再帰的アルゴリズムを用いて、新しい好み関数族 Σ_lvs を構築する。
• Σ_lvs に基づく新たな逐次的モデルが、O(VCD) の指導複雑度を達成することを証明する。これはバッチモデルの O(VCD²) と対照的である。
• 教師と学習者が共謀しないように制約を課す、逐次の設定における共謀不能な指導の新しい概念を導入する。

実験結果

リサーチクエスチョン

• RQ1 既存のバッチおよび逐次的指導モデルを、一貫した理論的枠組みで正式に統一することは可能か？
• RQ2 最も強いバッチモデルを表す好み関数族 Σ_gvs と、弱い逐次のモデルを表す Σ_local の間にはどのような関係があるか？
• RQ3 VC次元に線形に依存する指導複雑度を示す逐次的指導モデルを構築することは可能か？（バッチモデルの二次的複雑度と比較して）
• RQ4 逐次のモデルにおける共謀不能な指導を保証する条件は何か？ また、バッチ設定とはどのように異なるか？
• RQ5 新規の逐次的モデル族 Σ_lvs の指導複雑度は最適か？ もしくは、さらに低減可能か？

主な発見

• 提案された枠組みは、主なバッチおよび逐次的指導モデルを、それぞれの好み関数族にマッピングし、統一的な理論的基盤を提供する。
• 好み関数族 Σ_lvs は、VC次元に線形に依存する指導複雑度を示す、新たな逐次的指導モデルを誘導する。
• この線形複雑度は、バッチ指導モデルの最良の O(VCD²) 複雑度を上回り、顕著な理論的利点を示している。
• アルゴリズム2における再帰的構成により、σ_lvs ∈ Σ_lvs となる好み関数が生成され、その指導複雑度は最大で VCD に抑えられ、特定の仮説クラス（例：Warmuthクラス）では複雑度が 1 に達することも可能である。
• この枠組みにより、Σ_gvs と Σ_local は比較不能であることが明らかになった。両者にはそれぞれ異なる設定下での強みがある。
• 本稿は、逐次のモデルにおける共謀不能な指導の新しい概念を導入し、『同じ戦略を続ける、失敗したら変更する』という行動を示す好み関数が、自然にこの性質を満たすことを示している。