[논문 리뷰] Minimizers of the Empirical Risk and Risk Monotonicity

Marco Loog, Tom J. Viering외 1명|arXiv (Cornell University)|2019. 07. 11.

Machine Learning and Data Classification참고 문헌 35인용 수 7

한 줄 요약

이 논문은 위험 단조성(risk monotonicity)의 형식적 개념을 도입하며, 이는 훈련 데이터 집합이 커질수록 기대 위험이 증가하지 않는 성질으로 정의된다. 이는 분류, 회귀, 밀도 추정 등 다양한 표준 경험 위험 최소화 기법들이 조건부로 매우 큰 표본 크기에서도 비단조성 학습 곡선을 보일 수 있음을 보여주며, 일반적으로 더 많은 데이터가 성능 향상에 기여한다는 믿음이 항상 성립하지는 않음을 도전한다.

ABSTRACT

Plotting a learner's average performance against the number of training samples results in a learning curve. Studying such curves on one or more data sets is a way to get to a better understanding of the generalization properties of this learner. The behavior of learning curves is, however, not very well understood and can display (for most researchers) quite unexpected behavior. Our work introduces the formal notion of \emph{risk monotonicity}, which asks the risk to not deteriorate with increasing training set sizes in expectation over the training samples. We then present the surprising result that various standard learners, specifically those that minimize the empirical risk, can act \emph{non}monotonically irrespective of the training sample size. We provide a theoretical underpinning for specific instantiations from classification, regression, and density estimation. Altogether, the proposed monotonicity notion opens up a whole new direction of research.

연구 동기 및 목표

• 훈련 데이터가 많아질수록 학습 성능이 향상되거나 적어도 악화되지 않을 것이라는 직관적 기대를 형식화하기 위해.
• 학습 곡선이 항상 감소하는 것으로 여겨지는 일반적인 가정을 도전하기 위해, 표준 학습 환경에서 반례를 제시하기 위해.
• 감독 학습에서 일반화 행동의 새로운 성질로 위험 단조성을 이론적으로 기반화하기 위해.
• 경험 위험 최소화(ERM) 학습자가 훈련 샘플에 대해 기대값으로 비단조성 행동을 보일 수 있는지 조사하기 위해.
• 비단조성성의 영향을 모델 선택, 데이터 수집, 일반화 이론적 이해에 대해 탐색하기 위해.

제안 방법

• 훈련 집합 크기가 증가할수록 기대 위험이 증가하지 않는 조건을 형식적인 기준으로 제안한다: 위험 단조성.
• 분류, 회귀, 밀도 추정에서 경험 위험 최소화 기법을 이론적 유도와 경계를 통해 분석한다.
• 기억 학습자(memorizing learner)를 기반으로 한 반례를 통해, 무한한 VC 차원을 가질 경우조차도 비단조성성이 가능함을 보여준다.
• 손실 비율에 기반한 비단조성 조건을 유도한다: 만약 표본당 손실 감소 비율이 n/(n+1) 이하일 경우 비단조성성이 발생한다.
• 학습 이론에서의 결과, 예를 들어 아그노스틱 학습자(agnostic learners)의 √(n/(n+1)) 수렴 속도를 활용하여 단조성 가능성 평가를 수행한다.
• 이론적 분석이 복잡한 경우 실험적 검증을 제공하여 이론적 결과를 강화한다.

실험 결과

연구 질문

• RQ1 경험 위험 최소화 기법이 임의로 큰 훈련 집합을 가질 때조차도 기대 위험에서 비단조성 학습 곡선을 보일 수 있는가?
• RQ2 손실 함수나 학습 알고리즘이 증가하는 데이터에도 불구하고 비단조성 위험 행동을 유도하는 조건은 무엇인가?
• RQ3 위험 단조성은 PAC-학습 가능성과 어떻게 관련이 있으며, 학습자가 PAC-학습 가능하더라도 비단조성일 수 있는가?
• RQ4 특정 손실 함수나 정규화 전략은 ERM에서 위험 단조성을 강제로 유도할 수 있는가?
• RQ5 학습 곡선의 형태는 기저 분포 성질로부터 어느 정도 예측 가능한가?

주요 결과

• 분류, 회귀, 밀도 추정에서 경험 위험 최소화 기법은 매우 큰 표본 크기에서도 기대 위험에서 비단조성 행동을 보일 수 있다.
• 비단조성 조건은 손실 비율의 비율로 유도된다: 표본당 손실 감소 비율이 n/(n+1) 이하일 경우 비단조성성이 발생한다.
• 무한한 VC 차원을 가진 기억 학습자(memorizing learner)가 위험 단조성을 가짐을 보여주며, 이는 단조성이 PAC-학습 가능성을 의미하지는 않음을 시사한다.
• 이론적 분석에 따르면, √(n/(n+1)) 수렴 속도를 가지는 아그노스틱 학습자조차도 비단조성성을 보일 수 있으며, 이는 모든 유한한 n에 대해 이 속도가 n/(n+1)를 초과하기 때문이다.
• 이 연구는 비단조성성이 유한 표본이나 열악한 실험 설계의 산물이 아니며, 일부 ERM 절차의 근본적인 성질임을 드러낸다.
• 결과적으로 위험 단조성은 PAC-학습 가능성과는 별개로, 아직 탐색되지 않은 중요한 성질이며, 모델 평가 및 데이터 수집에 영향을 미칠 수 있다.