[논문 리뷰] Deep Bayesian Active Learning, A Brief Survey on Recent Advances

Salman Mohamadi, Hamidreza Amindavar|arXiv (Cornell University)|2020. 12. 15.

Machine Learning and Algorithms참고 문헌 25인용 수 8

한 줄 요약

이 종합 검토는 최근의 딥 부에이지티브 빈티브 러닝의 발전을 다루며, 불확실성을 모델링하고 샘플 효율성을 향상시키기 위해 베이지안 추론을 딥 네ural 네트워크와 통합하는 방법에 초점을 맞춘다. 몬테카를로 드롭아웃, 변분 추론, 예측 엔트로피 및 상호정보 기반의 할당 함수와 같은 기법들을 활용함으로써, 이 프레임워크는 최소한의 레이블 데이터로도 높은 정확도를 달성하며, 여러 벤치마크에서 비베이지안 접근법을 능가한다.

ABSTRACT

Active learning frameworks offer efficient data annotation without remarkable accuracy degradation. In other words, active learning starts training the model with a small size of labeled data while exploring the space of unlabeled data in order to select most informative samples to be labeled. Generally speaking, representing the uncertainty is crucial in any active learning framework, however, deep learning methods are not capable of either representing or manipulating model uncertainty. On the other hand, from the real world application perspective, uncertainty representation is getting more and more attention in the machine learning community. Deep Bayesian active learning frameworks and generally any Bayesian active learning settings, provide practical consideration in the model which allows training with small data while representing the model uncertainty for further efficient training. In this paper, we briefly survey recent advances in Bayesian active learning and in particular deep Bayesian active learning frameworks.

연구 동기 및 목표

• 베이지안 빈티브 러닝, 특히 딥 러닝 환경에서의 최근 이론적 및 응용적 발전을 종합적으로 조사하는 것.
• 기존의 빈티브 러닝을 제한하는 딥 러닝에서의 모델 불확실성 표현 문제를 해결하는 것.
• 베이지안 추론이 예측 불확실성 추정을 높이면서도 자료가 부족한 환경에서도 효율적인 학습을 가능하게 하는 방식을 설명하는 것.
• 레이블링을 위한 정보가 많은 샘플을 선택하기 위해 사용되는 할당 함수(예: 엔트로피, 상호정보)를 비교하는 것.
• 샘플 효율성과 강건성을 향상시키기 위해 베이지안 딥 러닝과 빈티브 러닝을 통합하는 데 초점을 맞추는 것.

제안 방법

• 딥 네트워크에서 사후 분포를 근사하기 위해 몬테카를로 드롭아웃을 사용하여 재학습 없이도 불확실성 추정이 가능하도록 한다.
• 네트워크 가중치에 대한 변분 추론과 베이지안 사전분포를 활용하여 딥 모델의 매개변수 불확실성을 모델링한다.
• 예측 엔트로피, 변동 비율, 상호정보와 같은 할당 함수를 적용하여 가장 정보가 많은 미레이블링된 샘플을 식별한다.
• 가짜 레이블링과 기대 최대화를 통한 반복적 프로세스를 활용하여 베이지안 빈티브 러닝을 준지도 학습과 통합한다.
• 저비용의 계산 부담으로도 불확실성 인식 분류를 가능하게 하는 가우시안 프로세스 기반 프레임워크를 활용한다.
• 편차 기반 유틸리티 함수를 사용한 질의 효율적인 사후 근사 방법을 제안하여 오라클 질의 횟수를 줄인다.

실험 결과

연구 질문

• RQ1 딥 빈티브 러닝에서 어떻게 베이지안 딥 러닝이 효과적으로 모델 불확실성을 표현할 수 있는가?
• RQ2 딥 빈티브 러닝에서 정보가 많은 샘플을 선택하기 위해 가장 효과적인 할당 함수는 무엇인가?
• RQ3 베이지안 신경망은 불확실성 인식 샘플링을 통해 최소한의 레이블 데이터로도 높은 정확도를 달성할 수 있는가?
• RQ4 샘플 효율성과 성능 측면에서 베이지안 빈티브 러닝은 준지도 학습과 어떻게 비교될 수 있는가?
• RQ5 빈티브 러닝에서 전체 베이지안 추론과 드롭아웃과 같은 근사 방법 간의 계산적 트레이드오���은 무엇인가?

주요 결과

• 딥 부에이지티브 빈티브 러닝은 다양한 NLP 및 비전 작업에서 비베이지안 빈티브 러닝 기반 모델을 항상 능가한다.
• 몬테카를로 드롭아웃은 딥 네트워크에서 불확실성 추정을 위한 베이지안 추론의 실용적이고 효과적인 근사 방법을 제공한다.
• 예측 엔트로피 및 상호정보 기반 할당 함수는 더 적은 레이블 샘플로도 더 빠른 수렴과 높은 정확도를 이끌어낸다.
• 베이지안 거리 측정 학습은 효율적인 쌍 선택과 소규모 데이터셋에서의 성능 향상을 가능하게 한다.
• CNN의 최종 레이어에만 베이지안 사전분포를 적용하는 것으로도 효과적으로 모델 불확실성을 포착하면서 계산 효율성을 유지할 수 있다.
• 가짜 레이블링을 통한 베이지안 빈티브 러닝과 준지도 학습의 통합은 성능 향상과 레이블링 비용 감소를 동시에 달성한다.