[논문 리뷰] DeepAL: Deep Active Learning in Python

Kuan-Hao Huang|arXiv (Cornell University)|2021. 11. 30.

Machine Learning and Algorithms참고 문헌 11인용 수 9

한 줄 요약

DeepAL은 파이토치 기반 파이썬 라이브러리로, 사용자가 최소한의 코드 수정으로 커스텀 데이터셋에 대해 다양한 쿼리 전략—불확실성 샘플링, BALD, 코어셋 선택, 악성 공격 기반 마진 등—을 쉽게 구현하고 실험할 수 있도록 통합되고 확장 가능한 프레임워크를 제공한다. 주요 기여는 딥러닝 응용을 위해 특별히 설계된 모듈식이고 오픈소스 도구이다.

ABSTRACT

We present DeepAL, a Python library that implements several common strategies for active learning, with a particular emphasis on deep active learning. DeepAL provides a simple and unified framework based on PyTorch that allows users to easily load custom datasets, build custom data handlers, and design custom strategies without much modification of codes. DeepAL is open-source on Github and welcome any contribution.

연구 동기 및 목표

• 딥러닝 네이티브 활동 학습 라이브러리의 부족을 해결하기 위해 딥 네ural 네트워크에 특화된 프레임워크를 제공함으로써.
• 연구자와 실무자가 통합된 파이토치 기반 인터페이스를 통해 다양한 활동 학습 쿼리 전략을 쉽게 구현하고 비교할 수 있도록 지원함으로써.
• 최소한의 코드 수정으로 커스텀 데이터셋, 데이터 핸들러, 새로운 쿼리 전략을 위한 확장성을 지원함으로써.
• 기존 전통적 활동 학습 라이브러리와 현행 딥러닝 실천 간 격차를 해소하기 위해 파이토치 모델과 트레이닝 파이프라인을 네이티브로 지원함으로써.

제안 방법

• 라이브러리는 세 가지 핵심 구성 요소인 Data(라벨된, 라벨되지 않은, 테스트 세트를 관리), Net(신경망 아키텍처와 트레이닝 파rameter 정의), Strategy(쿼리 선택 로직을 구현)로 구성되어 있다.
• Data 클래스는 파이토치 텐서를 사용해 라벨된 풀과 라벨되지 않은 풀을 유지하며, __getitem__ 및 __len__ 메서드를 통해 데이터를 텐서 형식으로 전처리하는 핸들러 객체를 사용한다.
• Net 클래스는 torch.nn.Module를 상속하는 모델 아키텍처, 트레이닝 하이퍼파라미터, 예측, 확률 출력, 임bedding 추출을 위한 메서드를 봉인한다.
• Strategy 클래스는 랜덤 샘플링, 최소 신뢰도, 마진 샘플링, 엔트로피 샘플링, 드롭아웃 기반 불확실성 추정, BALD, 코어셋 선택, FGSM 및 DeepFool 변형을 사용한 악성 공격 기반 마진 전략 등을 포함한 다양한 쿼리 전략을 구현한다.
• 트레이닝 루프는 각 쿼리 단계 후 모델 재학습을 통합하며, 전략이 라벨된 풀을 업데이트하고 분류기 재학습을 반복적으로 수행한다.
• 명확한 인터페이스 계약과 상속 패턴을 통해 새로운 데이터셋, 모델, 쿼리 전략의 플러그-인 통합을 지원한다.

실험 결과

연구 질문

• RQ1 파이토치 생태계 내에서 다양한 딥 액티브 러닝 쿼리 전략을 지원하기 위해 통합적이고 확장 가능한 프레임워크를 어떻게 설계할 수 있는가?
• RQ2 모듈식 라이브러리가 딥 네ural 네트워크에서 새로운 활동 학습 전략을 개발하는 연구자들에게 구현 오버헤드를 얼마나 줄일 수 있는가?
• RQ3 단일 라이브러리가 최소한의 코드 변경으로 표준 불확실성 기반 전략과 BALD, 악성 공격 기반 마진과 같은 고급 기법을 효과적으로 지원할 수 있는가?
• RQ4 DeepAL의 모듈성은 커스텀 데이터셋과 새로운 모델 아키텍처를 활동 학습 워크플로우에 어떻게 효과적으로 통합하는가?

주요 결과

• DeepAL은 사용자가 최소한의 코드 수정으로 커스텀 데이터셋, 데이터 핸들러, 쿼리 전략을 쉽게 통합할 수 있도록 완전히 모듈식이고 확장 가능한 딥 액티브 러닝 프레임워크를 제공한다.
• 라이브러리는 불확실성 샘플링(최소 신뢰도, 마진, 엔트로피), 드롭아웃 기반 불확실성 추정, BALD, 코어셋 선택, 악성 공격 기반 마진 방법을 포함한 포괄적인 쿼리 전략 세트를 네이티브로 지원한다.
• DeepAL은 파이토치와 원활하게 통합되어 사용자가 torch.nn.Module를 통해 모델을 정의하고 predict, predict_prob, get_embeddings와 같은 표준 메서드를 통해 트레이닝 및 추론을 관리할 수 있다.
• 프레임워크는 명확한 루프인 쿼리 → 라벨된 풀 업데이트 → 분류기 재학습을 통해 반복적 활동 학습을 가능하게 하며, 저수준의 데이터 관리 작업을 추상화한다.
• 라이브러리는 오픈소스이며 깃허브에 호스팅되어 있으며, 공동 기여와 연구 및 실용적 응용을 위한 확장에 유도하는 설계를 갖추고 있다.
• 기본 반복 방법과 DeepFool을 통한 악성 변형을 지원하여 딥 모델에서 강건한 불확실성 추정이 가능하다.