[논문 리뷰] Learning Active Learning from Data

Ksenia Konyushkova, Raphael Sznitman외 1명|Bern Open Repository and Information System (University of Bern)|2017. 03. 09.

Machine Learning and Algorithms인용 수 138

한 줄 요약

데이터 기반의 능동 학습 접근 방법으로, 표본의 예상 오류 감소를 예측하는 회귀기를 학습하여 비표시 샘플의 라벨링에 대한 기대 오류 감소를 예측.

ABSTRACT

In this paper, we suggest a novel data-driven approach to active learning (AL). The key idea is to train a regressor that predicts the expected error reduction for a candidate sample in a particular learning state. By formulating the query selection procedure as a regression problem we are not restricted to working with existing AL heuristics; instead, we learn strategies based on experience from previous AL outcomes. We show that a strategy can be learnt either from simple synthetic 2D datasets or from a subset of domain-specific data. Our method yields strategies that work well on real data from a wide range of domains.

연구 동기 및 목표

• 라벨 효율성 이득을 예측하기 위한 회귀 문제로 능동 학습을 동기화하고 형식화한다.
• 분류기 상태와 샘플 특징을 예측된 오류 감소에 매핑하는 회귀기를 학습시키기 위해 몬테카를로 기반 데이터 수집을 개발한다.
• 손으로 설계된 AL 휴리스틱을 넘어 일반화하는 두 가지 LAL 전략(독립적 및 반복적)을 제공한다.
• LAL이 합성 데이터나 소규모 응용 특정 세트에서 학습되어 실제 도메인으로 이전될 수 있음을 보여준다.

제안 방법

• 후보 점을 라벨링할 때의 기대 오류 감소를 회귀하는 것으로 Learning Active Learning(LAL)을 형식화한다.
• 분류기 상태 특징들(예: 확률 추정치, 클래스 비율, 교차 검증 정확도, 트리 깊이) 및 샘플 특징들(예: 예측된 클래스 확률, 근접성 척도)을 입력으로 사용하여 δ = 테스트 손실의 변화(change in test loss)를 예측하는 회귀기 g를 학습한다.
• 몬테카를로 시뮬레이션을 통해 학습 데이터를 수집한다: f를 L_tau에서 학습하고 손실을 평가한 뒤, 하나의 라벨이 달린 점 x를 추가로 더해 재학습하고 delta를 측정하며, xi = [phi, psi] 및 delta를 구성한다.
• xi를 delta로 매핑하는 회귀기 g를 학습하여 g(xi)를 최대화하는 탐욕적 선택 x*를 가능하게 한다.
• 두 가지 전략을 제안한다: LALindependent(무작위 미라벨 샘플을 사용한 오프라인 데이터 몬테카를로)와 LALiterative(AL 편향을 시뮬레이션하여 순차적 선택을 반영).
• f와 g에 대해 Random Forest를 사용하여 cold-start(합성 2D 데이터) 및 warm-start(응용 특정 데이터) 설정에서 평가; Rs, Us, Kapoor, ALBE-baselines와 비교한다.

실험 결과

연구 질문

• RQ1 다양한 데이터셋에서 후보 샘플에 라벨링으로 인해 잠재적인 일반화 오류 감소를 예측하는 회귀기를 학습할 수 있는가?
• RQ2 데이터 기반의 LAL 전략이 합성 데이터나 소규모 초기 데이터 세트에서 실제 도메인 특화 작업으로 얼마나 잘 이전되는가?
• RQ3 데이터 기반 LAL 전략이 불확실성 샘플링 등 전통적 AL 휴리스틱 및 메타-AL 기반선들보다 여러 도메인에서 더 잘 수행하는가?
• RQ4 독립적(샘플링 편향을 고려하지 않음) 대 반복적(샘플링 편향을 반영)으로 AL을 모델링하는 것이 성능에 어떤 영향을 미치는가?
• RQ5 오프라인 LAL 학습 대 온라인 질의의 계산 트레이드오프는 무엇인가?

주요 결과

• LAL 전략은 합성 데이터와 실제 데이터 모두에서 불확실성 샘플링 및 여러 기준선보다 성능이 우수하다.
• LAL이 단순한 2D 데이터에서 학습되어도 고차원적 실제 도메인(예: 의료 영상, 금융, 생물학, 물리학)으로 일반화한다.
• LAL 반복형 변형이 대체로 최상의 성능을 낳는 경향이 있지만, LAL 독립형도 경쟁력 있고 온라인에서 더 빠르다.
• 웨름-스타트, 응용 특정 LAL은 합리적인 오프라인 학습 시간으로 기준선을 능가할 수 있으며, 라벨 데이터가 희소할 때 ALBE는 어려움을 겪을 수 있다.
• 학습된 전략은 분류기 유형 및 특징 선택에 대해 강건하며, 오프라인 학습 이후 온라인 단계가 빠르다.