[논문 리뷰] Gone Fishing: Neural Active Learning with Fisher Embeddings

Jordan T. Ash, Surbhi Goel외 2명|arXiv (Cornell University)|2021. 06. 17.

Machine Learning and Algorithms참고 문헌 31인용 수 16

한 줄 요약

이 논문은 레이블링을 위한 정보성 샘플 배치를 선택하는 데 피셔 정보를 활용하는 새로운 신경 활성 학습 알고리즘인 Bait을 제안한다. 선형 대수적 구조를 이용해 최대우도추정 오차의 계산 가능한 경계를 최적화함으로써, Bait는 다양한 아키텍처와 배치 크기에서 분류 및 회귀 작업 전반에서 최신 기술(SOTA) 수준의 성능을 달성한다. 이는 이전의 방법들인 Badge와 Coreset를 능가하며, 이론적으로 탄탄하고 대규모 환경에서도 계산 가능하다.

ABSTRACT

There is an increasing need for effective active learning algorithms that are compatible with deep neural networks. This paper motivates and revisits a classic, Fisher-based active selection objective, and proposes BAIT, a practical, tractable, and high-performing algorithm that makes it viable for use with neural models. BAIT draws inspiration from the theoretical analysis of maximum likelihood estimators (MLE) for parametric models. It selects batches of samples by optimizing a bound on the MLE error in terms of the Fisher information, which we show can be implemented efficiently at scale by exploiting linear-algebraic structure especially amenable to execution on modern hardware. Our experiments demonstrate that BAIT outperforms the previous state of the art on both classification and regression problems, and is flexible enough to be used with a variety of model architectures.

연구 동기 및 목표

• 딥 네URAL 네트워크와 호환되며, 특히 배치 및 비볼록 설정에서 원칙적이고 확장 가능한 활성 학습 알고리즘이 부족한 문제를 해결하기 위해.
• 딥 러닝 환경에서 이론적으로 탄탄한 활성 학습 목표와 실용적이고 높은 성능을 보이는 알고리즘 사이의 격차를 메우기 위해.
• 기존에 효과적인 방법이 거의 없는 회귀 작업으로 활성 학습을 확장하기 위해.
• 볼록 및 비볼록 모델, 현대적인 아키텍처를 포함해 모두 작동하는 통합적이고 계산적으로 다룰 수 있는 프레임워크를 제공하기 위해.

제안 방법

• Bait는 모델의 조건부 확률 분포 p(y|x,θ)에서 유도된 피셔 정보를 사용하여 최대우도추정기(MLE) 오차의 경계를 최적화하는 방식으로 활성 학습을 설정한다.
• 모델 파라미터에 대한 로그우도의 그래디언트의 외적 곱을 통해 피셔 정보 행렬을 계산하며, 효율성을 위해 저랭크 구조를 활용한다.
• 알고리즘은 피셔 정보 행렬을 근사하기 위해 랭크-일치 업데이트를 수행하며, 이는 게으른 최적화를 통해 효율적인 배치 선택을 가능하게 한다.
• 피셔 정보 행렬의 상위-k 고유벡터를 사용해 가장 정보성 있는 샘플을 식별하며, 현대 하드웨어에 적합한 선형 대수적 구조를 활용한다.
• 연속적인 출력을 확률적 예측으로 간주함으로써, 분류 전용 불확실성 측정이 필요 없는 피셔 기반 선택을 가능하게 하여, 회귀로의 일반화를 달성한다.
• 배치 및 순차적 활성 학습을 모두 지원하며, 피셔 행렬의 저랭크 근사 덕분에 계산 복잡도를 관리할 수 있다.

실험 결과

연구 질문

• RQ1 과적합된 딥 네URAL 네트워크에 대해 피셔 정보 기반 활성 학습 목표를 계산적으로 다룰 수 있고 효과적인가?
• RQ2 피셔 기반 선택 전략은 모델 아키텍처에 관계없이 성능 및 일반화 능력 측면에서 불확실성 또는 다양성 기반 방법과 비교해 어떻게 다른가?
• RQ3 피셔 기반 활성 학습은 대부분의 기존 방법이 실패하는 회귀 작업으로까지 확장될 수 있는가?
• RQ4 피셔 정보의 이론적 기반은 다양한 배치 크기와 데이터 분포에서 더 높은 강건성과 일관성으로 이어지는가?
• RQ5 실제 레이블 부족 환경에서의 구현에 적합한 효율성과 함께 높은 성능을 유지할 수 있는가?

주요 결과

• Bait는 고정된 레이블링 예산 하에서 다양한 분류 데이터셋과 아키텍처에서 최신 기술(SOTA) 기준선, 특히 Badge와 Coreset를 뛰어넘는 성능 향상을 일관되게 달성한다.
• 회귀 작업에서는 랜덤 샘플링 및 다른 활성 학습 방법과 비교해도 Bait가 뛰어난 성능을 기록하며, 기준선 방법들이 회귀에 특화되지 않은 경우에도 마찬가지로 성능이 뛰어나다.
• Bait는 다양한 배치 크기와 모델 아키텍처(ResNet, MLP, 선형 모델 포함)에서 강력한 성능 유지를 보이며, 강건성과 일반화 능력을 입증한다.
• 알고리즘은 계산적으로 효율적이며, Coreset와 유사한 런타임을 보이며, 랭크-일치 업데이트와 피셔 행렬의 저랭크 근사를 통해 잘 스케일링된다.
• Bait는 다른 방법들이 성능을 떨어뜨리는 볼록 모델에서도 잘 작동함을 보이며, 이는 그 이론적 및 실용적 적용 범위가 넓다는 것을 시사한다.
• 실험 결과는 비볼록 및 볼록 설정 모두에서 Bait의 피셔 기반 선택 전략이 불확실성 또는 다양성 기반 전략보다 더 정보성이 높다는 것을 입증하며, 이론적 기반의 타당성을 검증한다.