[논문 리뷰] An Overview of Machine Teaching

Xiaojin Zhu, Adish Singla외 2명|arXiv (Cornell University)|2018. 01. 18.

Machine Learning and Algorithms참고 문헌 8인용 수 101

한 줄 요약

본 논문은 머신 티칭을 다차원 문제 공간으로 정리하고, 이중 최적화(바이레벨 최적화)를 통해 티칭을 형식화하며, 인간/기계 상호작용, 신호, 시퀀싱 및 공격자/동조자 역할에 걸친 이론적 및 실용적 방향을 조사한다.

ABSTRACT

In this paper we try to organize machine teaching as a coherent set of ideas. Each idea is presented as varying along a dimension. The collection of dimensions then form the problem space of machine teaching, such that existing teaching problems can be characterized in this space. We hope this organization allows us to gain deeper understanding of individual teaching problems, discover connections among them, and identify gaps in the field.

연구 동기 및 목표

• 머신 티칭이 기존의 기계학습 및 능동학습(active learning)과 어떻게 다른지 명확히 설명한다.
• 티칭 문제를 특징지을 다차원 공간을 도입한다.
• 티칭에 대한 형식적 정의와 바이레벨 최적화 형태를 제시한다.
• 도메인 전반에 걸친 응용, 이론적 질문 및 실용적 연구 방향을 조사한다.

제안 방법

• 최소 티칭 세트를 설명하기 위한 구체적 예시를 제시한다(예: 1D 임계값 및 하드 마진 SVM).
• 교사와 학습자를 연결하는 바이레벨 최적화 문제로 머신 티칭을 형식화한다(식 2–5).
• 일반화된 티칭 프레임워크를 TeachingRisk와 TeachingCost(식 4)로 포함하는 프레임워크와 제약 변형들(식 6, 9)을 도입한다.
• 다음 차원들(human/machine, teaching signal, 배치 대 시퀀스, 모델기반 대 모델-프리, 학생 인식, 하나 대 다수, 천사적 대 적대적, 이론 대 경험)으로 티칭 공간을 특징화한다.
• TD, RTD, PBTD 같은 티칭 차원 개념과 VC 차원 및 샘플 압축과의 연관성을 논의한다.
• 알고리즘 이론, 인간-로봇 상호작용 및 교육을 포함한 연구 방향을 제안한다.

실험 결과

연구 질문

• RQ1 다양한 도메인에서 머신 티칭을 가장 잘 포착하는 형식적 정의와 최적화 프레임워크는 무엇인가?
• RQ2 다양한 차원(신호 유형, 학습자 모델, 시퀀싱, 인식 등)이 티칭 효율성과 실현 가능성에 어떤 영향을 미치는가?
• RQ3 TD, RTD, PBTD와 고전 학습 이론(V C 차원, 샘플 압축) 간의 관계는 무엇인가?
• RQ4 교육과 인간-컴퓨터 상호작용에 머신 티칭을 어떻게 적용할 수 있으며, 데이터 포이즌와 같은 적대적 환경을 포함하는가?

주요 결과

• 티칭은 의도된 학습을 비교적 작은 티칭 세트로도 달성할 수 있다(예: 1D 임계값에 대해 두 점; SVM 경계에는 많은 티칭 세트가 존재).
• 바이레벨 최적화 형태가 교사-학습자 상호작용 및 티칭 위험과 티칭 비용 간의 절충을 포착한다.
• 다양한 차원 공간은 인간 교육에서부터 독성 공격 및 튜터링 시스템에 이르기까지 다양한 시나리오를 모델링할 수 있게 한다(풍부한 차원 공간).
• TD, RTD, PBTD 같은 티칭 개념은 수동 학습 복잡성과 관련되며 버전-스페이스 학습자뿐 아니라 릿지/로지스틱 회귀 및 SVM 같은 모델로 확장될 수 있다.
• 티칭 복잡성을 VC 차원 및 샘플 압축과 연관시키고 적응적, 인터랙티브, 기억 한정 티칭 설정을 연구하는 작업이 지속되고 있다.