[논문 리뷰] The Extended Littlestone's Dimension for Learning with Mistakes and Abstentions

Chicheng Zhang, Kamalika Chaudhuri|arXiv (Cornell University)|2016. 04. 21.

Machine Learning and Algorithms참고 문헌 30인용 수 6

한 줄 요약

이 논문은 온라인 학습에서 기각과 실수 사이의 트레이드오프를 특성화하는 새로운 척도인 확장 릴리트 스톤의 차원(ELdim)을 제안한다. 유한 및 무한 가설 클래스에 대해 최적의 알고리즘을 제공하고, l-편향 가정 하에 비실현 케이스에 대해 날카운 상한 및 하한을 확립하며, k개의 실수와 l-편향 조건 하에서 기각 수가 (k+1)·e^{(2k+2)/(k+1−l−d)} 비례함을 보여주어 이전의 KWIK 스타일 프레임워크를 일반화한다.

ABSTRACT

This paper studies classification with an abstention option in the online setting. In this setting, examples arrive sequentially, the learner is given a hypothesis class $\mathcal H$, and the goal of the learner is to either predict a label on each example or abstain, while ensuring that it does not make more than a pre-specified number of mistakes when it does predict a label. Previous work on this problem has left open two main challenges. First, not much is known about the optimality of algorithms, and in particular, about what an optimal algorithmic strategy is for any individual hypothesis class. Second, while the realizable case has been studied, the more realistic non-realizable scenario is not well-understood. In this paper, we address both challenges. First, we provide a novel measure, called the Extended Littlestone's Dimension, which captures the number of abstentions needed to ensure a certain number of mistakes. Second, we explore the non-realizable case, and provide upper and lower bounds on the number of abstentions required by an algorithm to guarantee a specified number of mistakes.

연구 동기 및 목표

• 개별 가설 클래스에서 기각을 고려한 온라인 분류의 알고리즘 최적성 특성화 부족을 해결하기 위해.
• 실현 가능 가정이 성립하지 않는 비실현 케이스에 대한 이해 격차를 해소하기 위해.
• 유한 및 무한 가설 클래스 모두에 대해 오차 및 기각 제약 조건이 부여된 상황에서 일반적이고 최적의 알고리즘을 개발하기 위해.
• 실수와 기각 사이의 근본적 트레이드오프를 포착하는 새로운 척도인 확장 릴리트 스톤의 차원을 체계화하기 위해.

제안 방법

• 기각과 오차 제약 조건이 있는 설정으로 일반화된 리틀스톤 차원을 고려한 조합적 척도인 확장 릴리트 스톤의 차원(ELdim)을 제안한다.
• 비실현 설정을 모델링하기 위해 참값 레이블링 함수가 어떤 h ∈ H와 최대 l개의 예제에서 다름을 허용하는 l-편향 가정을 도입한다.
• ELdim를 활용해 기각 및 예측 결정을 유도하는 새로운 알고리즘을 개발하며, 고정된 기각 예산 하에서 총 실수 수를 최소화한다.
• 하한을 유도하기 위해 (l−1, m)-어려운 확장된 실수 트리의 재귀적 구성 기법을 사용한다.
• 정보 이론적 및 조합적 추론을 활용해 학습자가 기각하거나 실수를 해야 하는 라운드 수의 상한을 도출한다.
• 제품 가설 클래스(H₁·H₂)와 지시 함수를 활용해 예측의 불확실성과 불일치를 모델링한다.

실험 결과

연구 질문

• RQ1 주어진 가설 클래스에서 온라인 학습 시 실수 수와 기각 수 사이의 최적 트레이드오프는 무엇인가?
• RQ2 비실현 케이스에서 최대 k개의 실수를 보장하기 위해 필요한 최소 기각 수는 어떻게 특성화할 수 있는가?
• RQ3 l-편향 가정이 기각과 실수에 대한 비현실적인 경계를 가능하게 하는 역할은 무엇인가?
• RQ4 확장 릴리트 스톤의 차원을 사용해 유한 및 무한 가설 클래스 모두에 대해 일반적이고 최적의 알고리즘을 설계할 수 있는가?
• RQ5 참값 레이블링 함수가 가설 클래스에 포함되지 않을 경우, 필요한 최소 기각 수에 대한 날카운 특성화는 존재하는가?

주요 결과

• 확장 릴리트 스톤의 차원(ELdim)은 기각 수의 최소값을 정확하게 특성화하며, 최대 k개의 실수를 보장하기 위해 필요한 최소 기각 수를 보장한다.
• 유한 가설 클래스 H에 대해, 유한 기각을 하는 모든 알고리즘은 l-편향 가정 하에 최소 l개의 실수를 범할 수밖에 없음을 보여, 이 가정의 필수성을 입증한다.
• 릴리트 스톤 차원이 d인 무한 가설 클래스에 대해, 유한 기각 알고리즘은 l-편향 가정 하에 최소 l + d개의 실수를 범해야 한다.
• k ≥ l + d일 경우 기각 수의 상한은 (k+1)·e^{(2k+2)/(k+1−l−d)}이며, 이는 상수 요소를 제외한 측면에서 날카로움을 입증한다.
• 논문은 제안된 알고리즘이 확장된 실수 트리 기반 하한과 일치하는 최적의 실수와 기각 간 트레이드오프를 달성함을 증명한다.
• l-편향 가정이 필수적임을 입증: 이 가정이 없을 경우, 어떤 유한 기각 알고리즘도 유한한 실수 수를 보장할 수 없다.