[论文解读] Understanding the Role of Adaptivity in Machine Teaching: The Case of Version Space Learners

Yuxin Chen, Adish Singla+3 more|arXiv (Cornell University)|Feb 14, 2018

Machine Learning and Data Classification被引用 34

一句话总结

本文通過為版本空間學習者提出一種新型的局部偏好模型，探討了機器教學中適應性的作用，其中學習者根據與當前假設的接近程度來更新假設。與傳統模型中適應性無益處不同，所提出的模型使適應性教師能透過類似二分查找的策略顯著縮短教學長度，表明當學習者重視假設之間平滑、可解釋的過渡時，適應性至關重要。

ABSTRACT

In real-world applications of education, an effective teacher adaptively chooses the next example to teach based on the learner's current state. However, most existing work in algorithmic machine teaching focuses on the batch setting, where adaptivity plays no role. In this paper, we study the case of teaching consistent, version space learners in an interactive setting. At any time step, the teacher provides an example, the learner performs an update, and the teacher observes the learner's new state. We highlight that adaptivity does not speed up the teaching process when considering existing models of version space learners, such as "worst-case" (the learner picks the next hypothesis randomly from the version space) and "preference-based" (the learner picks hypothesis according to some global preference). Inspired by human teaching, we propose a new model where the learner picks hypotheses according to some local preference defined by the current hypothesis. We show that our model exhibits several desirable properties, e.g., adaptivity plays a key role, and the learner's transitions over hypotheses are smooth/interpretable. We develop efficient teaching algorithms and demonstrate our results via simulation and user studies.

研究动机与目标

• 理解適應性在算法化機器教學中何時以及如何提升教學效率。
• 解決現有模型（如最壞情況和基於偏好的學習者）的局限性——在這些模型中，適應性無法縮短教學時間。
• 提出一種新的局部偏好模型，以捕捉類似人類的學習行為，其中學習者偏好平滑、漸進的假設更新。
• 開發利用學習者狀態反饋來最小化教學序列長度的適應性教學演算法。
• 透過模擬與使用者研究驗證模型與演算法，證明適應性的實際影響。

提出的方法

• 提出一種局部偏好模型，學習者根據與當前假設的接近程度選擇下一個假設，確保過渡平滑。
• 引入一種貪心啟發式方法，用於適應性教學，以在每一步最小化學習者與目標假設之間的距離。
• 設計 Ada-R 演算法——一種適應性教師演算法，利用局部偏好模型選擇樣例，透過類似二分查找的策略縮短教學長度。
• 開發 Non-R，一種非適應性基線，不依賴反饋構建教學序列，作為衡量適應性優勢的對照。
• 使用模擬與使用者研究，評估在不同假設類別與學習者行為下，適應性與非適應性教學的表現。
• 使用距離度量（例如 dist_e）與資料庫函數來建模學習者不確定性，並引導樣例選擇。

实验结果

研究问题

• RQ1 當學習者遵循局部偏好規則時，適應性是否能在機器教學中提供可測量的教學速度提升？
• RQ2 與全局偏好或最壞情況模型相比，局部偏好模型在教學效率上有何差異？
• RQ3 適應性教學演算法是否能在非適應性方法需線性長度的場景中實現對數級教學長度？
• RQ4 人類受試者在多大程度上表現出與所提出局部偏好模型一致的行為？
• RQ5 平滑、可解釋的假設過渡如何影響教學表現與學習者可解釋性？

主要发现

• 當學習者遵循局部偏好時，適應性可顯著提升教學速度，將所需樣例數從 Ω(|ℓ|) 減少至 O(log|ℓ|+1) 的某此情境。
• 相反，非適應性教師在相同任務中，最壞情況下仍需 Ω(|ℓ|) 個樣例，表明在新模型下適應性至關重要。
• 所提出的 Ada-R 適應性教師演算法實現類似二分查找的表現，透過在每一步策略性地減少不確定性，最小化教學長度。
• 使用者研究確認，受試者的假設更新與局部偏好模型一致，驗證其在人類教學情境中的現實性。
• 局部偏好模型可實現假設之間平滑、可解釋的過渡，提升學習過程的可教學性與可解釋性。
• 理論分析表明，基於最小化與目標假設距離的貪心啟發式方法，在所提模型下可產生最佳或近似最佳的教學序列。