[논문 리뷰] Preference-Based Batch and Sequential Teaching: Towards a Unified View of Models

Farnam Mansouri, Yuxin Chen외 3명|arXiv (Cornell University)|2019. 10. 24.

Machine Learning and Data Classification인용 수 18

한 줄 요약

이 논문은 선호도 함수 Σ를 사용하여 학습자 행동을 모델링하는 통합 프레임워크를 제안한다. 기존의 배치 및 순차적 교육 모델이 특정 선호도 함수의 가족에 해당함을 보이며, VC 차원에 대해 선형 교육 복잡도를 가지는 새로운 순차적 모델을 규명한다. 이는 전통적인 배치 모델의 이차 복잡도보다 향상된 결과이다.

ABSTRACT

Algorithmic machine teaching studies the interaction between a teacher and a learner where the teacher selects labeled examples aiming at teaching a target hypothesis. In a quest to lower teaching complexity and to achieve more natural teacher-learner interactions, several teaching models and complexity measures have been proposed for both the batch settings (e.g., worst-case, recursive, preference-based, and non-clashing models) as well as the sequential settings (e.g., local preference-based model). To better understand the connections between these different batch and sequential models, we develop a novel framework which captures the teaching process via preference functions $Σ$. In our framework, each function $σ\in Σ$ induces a teacher-learner pair with teaching complexity as $\TD(σ)$. We show that the above-mentioned teaching models are equivalent to specific types/families of preference functions in our framework. This equivalence, in turn, allows us to study the differences between two important teaching models, namely $σ$ functions inducing the strongest batch (i.e., non-clashing) model and $σ$ functions inducing a weak sequential (i.e., local preference-based) model. Finally, we identify preference functions inducing a novel family of sequential models with teaching complexity linear in the VC dimension of the hypothesis class: this is in contrast to the best known complexity result for the batch models which is quadratic in the VC dimension.

연구 동기 및 목표

• 배치 및 순차적 교육 모델을 하나의 이론적 프레임워크 아래 통합하기 위해.
• 다양한 모델 간의 선호도 함수와 교육 복잡도 간의 관계를 분석하기 위해.
• 기존의 배치 모델보다 증명 가능한 더 낮은 복잡도를 가지는 새로운 순차적 교육 모델을 규명하기 위해.
• 순차적 설정에서의 교란 없는 교육의 개념을 정식화하여 더 자연스러운 교사-학습자 상호작용을 가능하게 하기 위해.

제안 방법

• 선호도 함수 σ ∈ Σ를 통해 교사-학습자 상호작용을 모델링하며, 각 σ는 예제 노출 중에 학습자가 판별 공간을 어떻게 탐색하는지를 정의한다.
• 주어진 σ 하에서 어떤 타겟 가설이라도 가르치는 데 필요한 최소 예제 수인 교육 차원 TD(σ)를 정의한다.
• 기존의 교육 모델(예: 충돌 방지, 국소 선호 기반)이 Σ_gvs 및 Σ_local와 같은 특정 선호도 함수의 가족에 해당함을 보인다.
• 재귀 알고리즘을 사용하여 VC 차원에 대해 선형 복잡도를 보장하는 새로운 선호도 함수의 가족 Σ_lvs를 구성한다.
• Σ_lvs 하에서의 결과 순차적 모델이 O(VCD)의 교육 복잡도를 달성함을 증명하며, 이는 배치 모델의 O(VCD²)와 대비된다.
• 순차적 모델에서 교란 없는 교육의 새로운 개념을 도입하며, 학습자의 행동이 교사와의 공모를 방지하도록 제약을 둔다.

실험 결과

연구 질문

• RQ1 기존의 배치 및 순차적 교육 모델을 하나의 프레임워크 아래 공식적으로 통합할 수 있는가?
• RQ2 가장 강력한 배치 모델인 Σ_gvs와 약한 순차 모델인 Σ_local 간의 선호도 함수 가족 간의 관계는 무엇인가?
• RQ3 배치 모델의 이차 복잡도와는 달리 VC 차원에 대해 선형 복잡도를 가지는 순차적 교육 모델을 구성할 수 있는가?
• RQ4 순차적 모델에서 교란 없는 교육을 보장하는 조건은 무엇이며, 이는 배치 설정과 어떻게 다를까?
• RQ5 새로운 순차적 모델 가족(Σ_lvs)의 교육 복잡도는 최적인가, 아니면 더 줄일 수 있는가?

주요 결과

• 제안된 프레임워크는 주요 교육 모델들—배치 및 순차적—을 특정 선호도 함수의 가족으로 매핑하여 통합된 이론적 기반을 제공한다.
• Σ_lvs 가족은 VC 차원에 대해 선형 복잡도를 가지는 새로운 순차적 교육 모델을 유도한다.
• 이 선형 복잡도는 기존의 최선의 O(VCD²) 복잡도를 가지는 배치 교육 모델보다 뚜렷한 이론적 우위를 보이며 향상된 결과를 나타낸다.
• 알고리즘 2의 재귀적 구성은 교육 복잡도가 최대 VCD인 σ_lvs ∈ Σ_lvs를 생성하며, 일부 가설 클래스(예: 웜스터 클래스)에서는 복잡도 1을 달성할 수 있다.
• 프레임워크는 Σ_gvs와 Σ_local 가 서로 비교 불가능하다는 것을 드러내며, 서로 다른 설정에서 서로 다른 강점을 지닌다는 것을 보여준다.
• 논문은 순차적 모델에서의 교란 없는 교육의 새로운 개념을 도입하며, 선호도 함수가 '이기면 그대로, 지면 바꾸기' 행동을 따르도록 하여 자연스럽게 이 성질을 지원한다.