[논문 리뷰] Teacher Improves Learning by Selecting a Training Subset

Yuzhe Ma, Robert D. Nowak외 3명|arXiv (Cornell University)|2018. 02. 25.

Machine Learning and Algorithms참고 문헌 33인용 수 7

한 줄 요약

이 논문은 진짜 파라미터를 정확히 안다는 조건 하에, i.i.d. 훈련 세트에서 일반화 성능을 향상시키기 위해 최적의 소량의 서브셋을 선택하는 '슈퍼 테칭'(super-teaching) 개념을 제안한다. 저자들은 가우시안 평균의 최대우도추정과 1차원 마진 최대화 분류 문제에서 이러한 서브셋이 전체 데이터셋보다 훨씬 낮은 리스크를 달성할 수 있음을 증명하고, 이를 실용적으로 계산하기 위해 혼합정수비선형계획법(MINLP) 알고리즘을 제안한다.

ABSTRACT

We call a learner super-teachable if a teacher can trim down an iid training set while making the learner learn even better. We provide sharp super-teaching guarantees on two learners: the maximum likelihood estimator for the mean of a Gaussian, and the large margin classifier in 1D. For general learners, we provide a mixed-integer nonlinear programming-based algorithm to find a super teaching set. Empirical experiments show that our algorithm is able to find good super-teaching sets for both regression and classification problems.

연구 동기 및 목표

• 진짜 파라미터 $ \theta^* $ 를 안다는 조건에서, 교사가 전체 데이터셋을 사용하는 것보다 학습자의 일반화 성능을 햖थ상시키는 훈련 서브셋을 선택할 수 있는가를 조사한다.
• 학습자가 '슈퍼가능하게 가르칠 수 있다'(super-teachable)는 것을 공식적으로 정의하고, 그러한 향상이 이루어지는 조건을 규명한다.
• 일반적인 학습자들을 대상으로 최적의 서브셋을 찾는 실용적인 알고리즘을 혼합정수비선형계획법(MINLP)을 기반으로 개발한다.
• 선형 회귀 및 분류 문제에 대한 실험적 검증을 통해 제안된 방법의 효과성을 입증한다.

제안 방법

• 논문은 '슈퍼 교사'를 정의하여, 진짜 파라미터 $ \theta^* $, 데이터 분포 $ p_{\mathbb{Z}} $, 학습자 $ A $ 를 모두 알고 있을 때, 학습자의 리스크 $ R(\hat{\theta}_{B(S)}) $ 를 최소화하는 서브셋 $ B(S) \subset S $ 를 선택한다고 정의한다.
• 또한 '슈퍼 테칭 비율' $ c_n $ 을 도입하여, $ R(\hat{\theta}_{B(S)}) \leq c_n R(\hat{\theta}_S) $ 를 만족시키며, $ c_n < 1 $ 이면 성능 향상이 보장된다.
• 가우시안 평균의 최대우도추정 문제에서, 진짜 평균 주변에 대칭적인 서브셋을 선택하면 리스크가 $ O(1/n) $ 에서 $ O(1/n^2) $ 로 감소함을 도출하여 슈퍼 테칭이 가능함을 증명한다.
• 1차원 마진 최대화 분류기의 경우, 진짜 임계값 주변에서 가장 대칭적인 두 점 쌍을 선택함으로써 $ O(1/n^2) $ 의 리스크를 달성하며, 전체 데이터셋의 $ O(1/n) $ 보다 뛰어난 성능을 보인다.
• 일반적인 학습자들을 대상으로 하여, 혼합정수비선형계획법(MINLP) 기반 알고리즘을 제안하여 슈퍼 테칭 세트를 계산한다.
• 실증적 평가를 통해 제안된 방법이 선형 회귀 및 분류 문제에서 리스크 감소와 일반화 성능 향상에 효과적임을 입증한다.

실험 결과

연구 질문

• RQ1 진짜 파라미터 $ \theta^* $ 를 안다는 조건에서, 교사는 전체 데이터셋을 사용하는 것보다 학습자의 추정 정확도를 향상시키는 훈련 데이터의 서브셋을 선택할 수 있는가?
• RQ2 어떤 유형의 학습자들에 대해 슈퍼 테칭이 증명 가능하며, 어떤 조건에서 그러한 향상이 가능할까?
• RQ3 슈퍼 테칭 서브셋의 최적 크기 $ k $ 는 전체 데이터셋 크기 $ n $ 대비 어떻게 되며, 성능는 $ k $ 에 따라 어떻게 변화하는가?
• RQ4 닫힌 형태의 해가 존재하지 않을 경우, 일반적인 학습자들을 위한 슈퍼 테칭 세트를 효율적으로 계산하는 방법은 무엇인가?
• RQ5 슈퍼 테칭에는 본질적인 제약이 존재하는가? 어떤 학습자들은 본질적으로 슈퍼가능하게 가르칠 수 없는가?

주요 결과

• 가우시안 평균의 최대우도추정기에서, 슈퍼 테칭 서브셋의 리스크는 전체 데이터셋의 $ O(1/n) $ 대비 $ O(1/n^2) $ 로 감소함을 증명하여 슈퍼 테칭이 가능함을 입증한다.
• 1차원 마진 최대화 분류기의 경우, 진짜 임계값 주변에서 가장 대칭적인 두 점 쌍을 선택하면 리스크가 $ O(1/n^2) $ 로 감소하며, 전체 데이터셋의 $ O(1/n) $ 보다 뛰어난 성능을 보인다.
• 구간 분류 문제에서 가장 낮고 가장 높은 일致성 학습자들은 슈퍼가능하게 가르칠 수 없다. 어떤 서브셋으로부터도 전체 데이터셋의 추정보다 나쁜 또는 동일한 결과를 낼 수 있기 때문이다.
• 제안된 MINLP 기반 알고리즘이 실증 실험에서 고성능의 슈퍼 테칭 세트를 성공적으로 식별하여, 선형 회귀 및 분류 문제에서 리스크를 감소시킴을 입증한다.
• 논문은 渐近 정규성 조건을 만족하는 최대우도추정기들은 일반적으로 슈퍼가능하게 가르칠 수 있으며, 그렇지 않은 경우(예: 유계 간격에서의 최대우도추정기)는 그렇지 않음을 밝혀냈다.
• 반례를 제시함으로써, 유계 간격에서의 최대우도추정기나 일致성 구간 분류기 같은 학습자들은 슈퍼가능하게 가르킬 수 없음을 입증하며, 이는 구조적 제약을 드러낸다.