[논문 리뷰] A Survey of Deep Active Learning

Pengzhen Ren, Xiao Yun외 6명|arXiv (Cornell University)|2020. 08. 30.

Machine Learning and Algorithms인용 수 39

한 줄 요약

이 조사(서베이)는 DeepAL의 포괄적 분류와 개요를 제공하며, 도전과제, 쿼리 전략, 아키텍처, 적용 및 향후 방향을 자세히 다룬다.

ABSTRACT

Active learning (AL) attempts to maximize the performance gain of the model by marking the fewest samples. Deep learning (DL) is greedy for data and requires a large amount of data supply to optimize massive parameters, so that the model learns how to extract high-quality features. In recent years, due to the rapid development of internet technology, we are in an era of information torrents and we have massive amounts of data. In this way, DL has aroused strong interest of researchers and has been rapidly developed. Compared with DL, researchers have relatively low interest in AL. This is mainly because before the rise of DL, traditional machine learning requires relatively few labeled samples. Therefore, early AL is difficult to reflect the value it deserves. Although DL has made breakthroughs in various fields, most of this success is due to the publicity of the large number of existing annotation datasets. However, the acquisition of a large number of high-quality annotated datasets consumes a lot of manpower, which is not allowed in some fields that require high expertise, especially in the fields of speech recognition, information extraction, medical images, etc. Therefore, AL has gradually received due attention. A natural idea is whether AL can be used to reduce the cost of sample annotations, while retaining the powerful learning capabilities of DL. Therefore, deep active learning (DAL) has emerged. Although the related research has been quite abundant, it lacks a comprehensive survey of DAL. This article is to fill this gap, we provide a formal classification method for the existing work, and a comprehensive and systematic overview. In addition, we also analyzed and summarized the development of DAL from the perspective of application. Finally, we discussed the confusion and problems in DAL, and gave some possible development directions for DAL.

연구 동기 및 목표

• 고차원 데이터에서 표지 비용(labelling cost)을 줄이기 위해 딥러닝(DL)과 활발학습(AL)을 결합하는 것이 왜 가치 있는지 설명한다.
• DeepAL 방법과 전략에 대한 형식적 프레임워크와 분류 체계를 제공한다.
• 다양한 분야의 기존 DeepAL 적용 사례를 요약하여 공통 패턴과 격차를 식별한다.
• DL과 AL의 결합에서의 도전과제를 강조하고 향후 연구 방향을 제안한다.

제안 방법

• 풀풀 기반 DeepAL 프레임워크를 정의하고 목표 정확도를 달성하면서 라벨링 데이터를 줄이기 위한 최적화 목표를 형식화한다.
• DeepAL 질의 전략을 배치 모드 DeepAL(BMDAL), 불확실성 기반 및 하이브리드 전략, 딥 베이지안 활성 학습(DBAL), 밀도 기반 방법, 자동화된 DeepAL 설계로 분류한다.
• 모델 불확실성, 라벨링 샘플 데이터의 희소성, 파이프라인 불일치와 같은 DL 특유의 도전과제를 베이지안 방법, 데이터 증강, 의사 레이블, 반지도 학습으로 다루는 방법을 논의한다.
• BALD와 BatchBALD와 같은 배치 획득 전략을 설명하고 불확실성만을 추구하는 접근 방식과 다양성 인식을 포함한 접근 방식(예: Exploration-P, DMBAL, BADGE, WAAL, TA-VAAL)을 대조한다.
• 두 가지 핵심 DeepAL 구성 요소를 개요한다: (i) 비라벨링 데이터에 대한 AL 질의 전략, (ii) DL 모델 학습 및 최적화 과정.

(a) Structure diagram of convolutional neural network.

실험 결과

연구 질문

• RQ1 전통적인 AL 전략을 DL 모델에 적용할 때의 주요 도전과제는 무엇인가?
• RQ2 DeepAL에서 정보 내용과 샘플 다양성을 균형 있게 조정하도록 배치 기반 질의 전략을 어떻게 설계할 수 있는가?
• RQ3 제한된 라벨 데이터와 높은 불확실성에 대처하는 데 도움을 주는 방법(Bayesian, 반지도학습, 증강 등)은 무엇인가?
• RQ4 도메인 간 성능 향상을 위해 DeepAL 아키텍처와 질의 전략을 어떻게 자동화하거나 작업 인지적으로 만들 수 있는가?
• RQ5 DeepAL의 주요 적용 분야와 향후 방향은 무엇인가?

주요 결과

• 배치 기반 질의(BatchBALD)는 샘샘 간 상관관계를 반영하여 일대일 BALD보다 성능이 향상된다.
• 불확실성 기반 전략은 소규모 배치에 대해 간단하고 효과적이지만 다양성과 분포 커버리지를 해칠 수 있다.
• 불확실성과 다양성을 균형 잡는 하이브리드 전략들(BADGE, WAAL, TA-VAAL)은 과도한 하이퍼파라미터 조정 없이도 강한 실용적 가능성을 보인다.
• 베이지안 딥러닝과 데이터 증강은 DL 기반 AL의 과신 및 데이터 희소성을 완화하는 데 도움이 된다.
• DL에 확장 가능하고 고차원 데이터를 다루며 모든 응용 분야에서 최종 작업 성능과 정렬되는 배치 질의 설계가 필요하다.

(b) The pool-based active learning cycle.