[논문 리뷰] Active Learning of Hyperparameters: An Expected Cross Entropy Criterion for Active Model Selection

Johannes Kulick, Robert Lieck외 1명|arXiv (Cornell University)|2014. 09. 26.

Machine Learning and Algorithms참고 문헌 23인용 수 8

한 줄 요약

이 논문은 잠재 모델 파라미터에 대한 정보량을 측정하기 위해 기대 교차 엔트로피 기준을 사용하는 새로운 주동 학습 프레임워크를 제안한다. 하이퍼파rameter에 대한 사전 분포와 기대 사후 분포 간의 발산을 최소화함으로써, 표준 예측 불확실성 및 버전 스페이스 접근 방식보다 더 적은 쿼리 수로 잠재 모델 특성을 효율적으로 파악하는 데 성공한다.

ABSTRACT

In standard active learning, the learner’s goal is to reduce the predictive uncertainty with as little data as possible. We consider a slightly different problem: the learner’s goal is to uncover latent properties of the model—e.g., which features are relevant (“active feature selection”), or the choice of hyper parameters—with as little data as possible. While the two goals are clearly related, we give examples where following the predictive uncertainty objective is suboptimal for uncovering latent parameters. We propose novel measures of information gain about the latent parameter, based on the divergence between the prior and expected posterior distribution over the latent parameter in question. Notably, this is different from applying Bayesian experimental design to latent variables: we give explicit examples showing that the latter objective is prone to get stuck in local minima, unlike its application the standard predictive uncertainty. Extensive evaluations show that active learning using our measures significantly accelerates the uncovering of latent model parameters, as compared to standard version space approaches (Query-by-committee) as well as predictive uncertainty measures. 1

연구 동기 및 목표

• 표준 주동 학습이 예측 불확실성을 최소화하는 데서 비롯하는 한계를 해결하기 위해, 관련 기능이나 하이퍼파rameter와 같은 잠재 모델 특성을 파악하는 데 초점을 맞춘다.
• 예측 성능가 아니라 잠재 파라미터에 대한 정보량 증가를 직접 목표로 하는 방법을 개발한다.
• 잠재 변수에 적용된 베이지안 실험 설계에서 내재된 국소 최소값 문제를 해결한다.
• 데이터 효율적인 쿼리 전략을 통해 최적의 하이퍼파rameter와 활성 기능을 가속화한다.
• Query-by-Committee 및 예측 불확실성 기반 주동 학습과의 성능 비교에서 뛰어난 성능을 입증한다.

제안 방법

• 이 방법은 잠재 하이퍼파rameter에 대한 사전 분포와 기대 사후 분포 간의 기대 교차 엔트로피를 기반으로 한 새로운 정보량 측정 기준을 도입한다.
• 현재 모델의 예측 분포를 사용하여 데이터 분포의 불확실성을 통합함으로써 하이퍼파rameter에 대한 기대 사후 분포를 계산한다.
• 획득 함수는 예측 불확실성이 아니라 잠재 파라미터에 대한 기대 정보량 증가를 최대화하는 다음 쿼리 포인트를 선택한다.
• 모델 출력 분산이 아닌 파rameter 공간의 발산에 초점을 맞춤으로써 국소 최소값을 피한다.
• 잠재 변수에 적용된 베이지안 실험 설계와 다름없이, 데이터 수집 하에 기대 사후 분포의 이동을 명시적으로 모델링한다.
• 특징 유사성 및 하이퍼파ram터 튜닝을 포함한 여러 모델 선택 작업에서 평가된다.

실험 결과

연구 질문

• RQ1 파라미터 공간의 발산에 기반한 주동 학습 기준이 예측 불확실성보다 잠재 모델 파라미터를 더 잘 파악할 수 있는가?
• RQ2 제안된 기대 교차 엔트로피 기준은 하이퍼파라미터 및 기능 선택에서 Query-by-Committee와 같은 버전 스페이스 방법보다 어떻게 비교되는가?
• RQ3 제안된 방법은 잠재 변수에 적용된 베이지안 실험 설계에서 흔히 발생하는 국소 최소값 문제를 피할 수 있는가?
• RQ4 최적의 하이퍼파라미터 또는 활성 기능을 식별하기 위해 필요한 쿼리 수가 얼마나 줄어드는가?
• RQ5 제안된 기준은 다양한 모델 유형과 데이터 분포에 대해 강건한가?

주요 결과

• 제안된 기대 교차 엔트로피 기준은 표준 예측 불확실성 기반 주동 학습보다 최적 하이퍼파라미터 발견 속도를 크게 향상시킨다.
• 이 방법은 더 적은 쿼리 수로 관련 기능과 최적 하이퍼파라미터를 식별하는 데서 Query-by-Committee 및 기타 버전 스페이스 접근 방식을 능가한다.
• 잠재 변수에 적용된 베이지안 실험 설계에서 흔히 발생하는 국소 최소값 문제를 피한다.
• 사전-사후 분포 발산에 기반한 정보량 측정 기준은 하이퍼파라미터 검색 작업에서 더 빠른 수렴을 이끈다.
• 실증 평가 결과, 다양한 벤치마크 작업에서 데이터 효율성 향상이 일관되게 입증된다.
• 특히 고차원 또는 희박한 파라미터 공간에서, 최소한의 데이터로도 잠재 모델 구조를 효과적으로 드러내는 데 뛰어난 성능을 발휘한다.