[论文解读] Preference-Based Batch and Sequential Teaching: Towards a Unified View of Models

Farnam Mansouri, Yuxin Chen+3 more|arXiv (Cornell University)|Oct 24, 2019

Machine Learning and Data Classification被引用 18

一句话总结

本文提出了一种基于偏好函数 Σ 的统一框架，用于算法化机器教学，以建模教学过程中的学习者行为。结果表明，现有的批量教学与顺序教学模型分别对应于特定的偏好函数族，且本文识别出一种新型顺序教学模型，其教学复杂度在 VC 维上呈线性——优于传统批量模型的二次复杂度。

ABSTRACT

Algorithmic machine teaching studies the interaction between a teacher and a learner where the teacher selects labeled examples aiming at teaching a target hypothesis. In a quest to lower teaching complexity and to achieve more natural teacher-learner interactions, several teaching models and complexity measures have been proposed for both the batch settings (e.g., worst-case, recursive, preference-based, and non-clashing models) as well as the sequential settings (e.g., local preference-based model). To better understand the connections between these different batch and sequential models, we develop a novel framework which captures the teaching process via preference functions $Σ$. In our framework, each function $σ\in Σ$ induces a teacher-learner pair with teaching complexity as $\TD(σ)$. We show that the above-mentioned teaching models are equivalent to specific types/families of preference functions in our framework. This equivalence, in turn, allows us to study the differences between two important teaching models, namely $σ$ functions inducing the strongest batch (i.e., non-clashing) model and $σ$ functions inducing a weak sequential (i.e., local preference-based) model. Finally, we identify preference functions inducing a novel family of sequential models with teaching complexity linear in the VC dimension of the hypothesis class: this is in contrast to the best known complexity result for the batch models which is quadratic in the VC dimension.

研究动机与目标

• 将批量与顺序教学模型统一于单一理论框架之下。
• 分析不同模型中偏好函数与教学复杂度之间的关系。
• 识别出一种新型顺序教学模型，其教学复杂度可被严格证明低于现有批量模型。
• 在顺序设置中形式化一种无共谋的教学概念，从而支持更自然的师生互动。

提出的方法

• 通过偏好函数 σ ∈ Σ 建模教师-学习者交互，其中每个 σ 定义了学习者在示例暴露过程中在版本空间中的导航方式。
• 将教学维数 TD(σ) 定义为在给定 σ 下，教学任意目标假设所需的最少示例数。
• 证明已知的教学模型（如非冲突型、基于局部偏好的模型）对应于特定的 σ 函数族，例如 Σ_gvs 和 Σ_local。
• 通过递归算法构造一种新型偏好函数族 Σ_lvs，确保教学复杂度在 VC 维上为线性。
• 证明在 Σ_lvs 下，所得到的顺序模型实现 O(VCD) 的教学复杂度，而批量模型的复杂度为 O(VCD²)。
• 在顺序模型中引入一种新的无共谋教学概念，其中学习者的策略被约束以避免与教师共谋。

实验结果

研究问题

• RQ1 如何在单一框架下正式统一现有的批量与顺序教学模型？
• RQ2 偏好函数族 Σ_gvs（最强批量模型）与 Σ_local（最弱顺序模型）之间存在何种关系？
• RQ3 能否构建一种教学复杂度在 VC 维上为线性（而非批量模型中的二次复杂度）的顺序教学模型？
• RQ4 在顺序模型中，确保无共谋教学的条件是什么？它们与批量设置有何不同？
• RQ5 新顺序模型族（Σ_lvs）的教学复杂度是否最优？是否还能进一步降低？

主要发现

• 所提出的框架将所有主要教学模型——批量与顺序模型——映射到特定的偏好函数族，提供了统一的理论基础。
• 偏好函数族 Σ_lvs 引入了一种新型顺序教学模型，其教学复杂度为 O(VCD)，在 VC 维上呈线性。
• 该线性复杂度优于批量教学模型中已知的最佳复杂度 O(VCD²)，展现出显著的理论优势。
• 算法 2 中的递归构造可生成满足 σ_lvs ∈ Σ_lvs 的偏好函数，其教学复杂度至多为 VCD，且在某些假设类（如 Warmuth 类）下可达到复杂度 1。
• 该框架揭示了 Σ_gvs 与 Σ_local 之间不可比较：两者互不支配，表明其在不同场景下具有各自独特的优势。
• 本文在顺序模型中引入了一种新的无共谋教学概念，其偏好函数满足“保持成功，失败则转移”行为，自然支持该性质。