[논문 리뷰] Active Learning: Problem Settings and Recent Developments

Hideitsu Hino|arXiv (Cornell University)|2020. 12. 08.

Machine Learning and Algorithms참고 문헌 96인용 수 30

한 줄 요약

이 논문은 활성학습 문제 설정, 획득 함수, 이론적 보장, 중지 기준 및 응용에 대해 검토하며 최근 동향과 실용적 고려사항을 강조합니다.

ABSTRACT

In supervised learning, acquiring labeled training data for a predictive model can be very costly, but acquiring a large amount of unlabeled data is often quite easy. Active learning is a method of obtaining predictive models with high precision at a limited cost through the adaptive selection of samples for labeling. This paper explains the basic problem settings of active learning and recent research trends. In particular, research on learning acquisition functions to select samples from the data for labeling, theoretical work on active learning algorithms, and stopping criteria for sequential data acquisition are highlighted. Application examples for material development and measurement are introduced.

연구 동기 및 목표

• 활성학습의 기본 문제 설정과 감독학습에서 라벨이 있는 데이터와 라벨이 없는 데이터의 역할을 설명한다.
• 라벨링할 샘플을 선택하기 위한 획득 함수와 기준을 조사한다.
• 활성학습에서 이론적 보장, 샘플/레이블 복잡도, 그리고 중지 기준에 대해 논의한다.
• 실용적 관련성을 보여주기 위해 측정 및 재료 개발에서의 응용을 제시한다.

제안 방법

• X (explanatory)와 Y (response), 가설, 손실 함수, 버전 공간 개념을 포함한 활성학습 프레임워크를 정의한다.
• 스트림 기반과 풀 기반 활성학습 설정의 차이를 구분하고 효율성을 높이기 위한 배치 선택에 대해 논의한다.
• 불확실성, 여유 margin, 엔트로피, BALD, QBC 등과 같은 획득 함수를 이론적 기반과 함께 검토한다.
• 배치 및 적응 설정에서 보장을 위한 도구로서 부분모듈성 및 적응적 부분모듈성을 설명한다.
• 메타학습, 강화학습, 밴딧 형태를 통한 획득 함수 학습을 논의한다.
• 샘플/레이블 복잡도에 대한 이론적 결과와 활성학습이 이득을 제공하는 조건을 요약한다.

실험 결과

연구 질문

• RQ1 활성학습 방법이 패시브 학습에 비해 레이블 복잡도를 감소시키는 문제 조건은 무엇인가?
• RQ2 획득 함수가 스트림 기반 및 풀 기반 설정에서 학습의 효율성과 효과에 어떤 영향을 미치는가?
• RQ3 배치 및 적응 활성학습에 대한 이론적 보장은 무엇이며 부분모듈성 개념은 어떻게 기여하는가?
• RQ4 획득 함수를 강화학습, 메타학습, 밴딧 프레임워크를 통해 학습되거나 적응될 수 있는가?
• RQ5 현실 세계 응용에서 순차 데이터 획득의 실용적 고려사항과 중지 기준은 무엇인가?

주요 결과

• 특정 조건과 설정에서 활성학습은 더 적은 라벨 샘플로 높은 예측 정확도를 달성할 수 있다.
• 불확실성 기반, 여유(margin), 엔트로피, BALD 유형의 획득 함수는 샘플 선택의 중심이며, 그 효과는 데이터 분포와 모델에 따라 달라진다.
• 배치 및 적응 부분모듈성은 탐욕적 또는 배치 선택 전략에 대한 근사 보장을 제공한다.
• 이론적 결과는 realizable 대 unrealizable 설정 및 잡음 조건에 따라 다양한 레이블 복잡도 개선을 보여준다.
• 최근 연구는 대규모 문제에 대해 강화학습, 메타학습 및 심층 모델을 통해 획득 함수를 학습하는 것을 탐구한다.