[논문 리뷰] Making Look-Ahead Active Learning Strategies Feasible with Neural Tangent Kernels

Mohamad Amin Mohamadi, Wonho Bae외 1명|arXiv (Cornell University)|2022. 06. 25.

Machine Learning and Algorithms인용 수 6

한 줄 요약

이 논문은 신경미분커널(NTK) 기반의 근사법을 제안하여 딥 네ural 네트워크에서 효율적인 룩어헤드 주의적 학습을 가능하게 한다. 이 방법은 전체 재학습 없이도 가상의 데이터 포인트로부터 모델 변화를 정확하게 예측할 수 있도록 한다. 이론적 분석과 실험을 통해 MNIST, SVHN, CIFAR10, CIFAR100에서 최고 성능을 달성하면서도 기존의 낭비적인 룩어헤드 전략 대비 계산량을 100배 이상 감소시킨다.

ABSTRACT

We propose a new method for approximating active learning acquisition strategies that are based on retraining with hypothetically-labeled candidate data points. Although this is usually infeasible with deep networks, we use the neural tangent kernel to approximate the result of retraining, and prove that this approximation works asymptotically even in an active learning setup -- approximating "look-ahead" selection criteria with far less computation required. This also enables us to conduct sequential active learning, i.e. updating the model in a streaming regime, without needing to retrain the model with SGD after adding each new data point. Moreover, our querying strategy, which better understands how the model's predictions will change by adding new data points in comparison to the standard ("myopic") criteria, beats other look-ahead strategies by large margins, and achieves equal or better performance compared to state-of-the-art methods on several benchmark datasets in pool-based active learning.

연구 동기 및 목표

• 계산 비용이 매우 높은 룩어헤드 주의적 학습 전략을 딥 네ural 네트워크에 실용적으로 적용하기 위해.
• 새로운 데이터로부터 장기적인 모델 향상 여부를 예측하지 못하는 단기적 획득 함수의 한계를 해결하기 위해.
• 데이터 레이블링과 모델 재학습을 분리하여, 빠른 레이블링을 가능하게 하는 순차적 주의적 학습을 가능하게 하기 위해.
• NTK 근사가 반복적 주의적 학습에서 전체 재학습 결과와 점차적으로 동일한 결과를 도출함을 증명하기 위해.
• NTK 기반의 룩어헤드 전략이 기존의 룩어헤드 전략과 최신의 단기적 방법을 모두 능가함을 보여주기 위해.

제안 방법

• 가상의 재학습 후 모델 출력을 예측하기 위해 딥 네ural 네트워크 행동을 신경미분커널(NTK)을 사용해 근사한다.
• NTK를 사용해 네트워크의 선형화된 대체 모델을 계산하여, SGD 업데이트 없이도 획득 함수를 신속하게 평가할 수 있도록 한다.
• 후보 데이터 포인트에 대한 NTK 기반 모델 예측을 효율적으로 계산하기 위해 공액 기울기 커널 회귀 해법을 적용한다.
• NTK 대체 모델을 기반으로 예상되는 모델 출력 변화를 근거로 한 룩어헤드 획득 함수를 제안한다.
• 새로운 레이블 데이터를 점진적으로 업데이트하여 NTK 근사 모델을 갱신함으로써 레이블링과 학습을 분리한다. 이로써 전체 재학습을 피할 수 있다.
• 무한한 넓이 근사에서 NTK 근사와 전체 재학습 간의 점차적 동치성을 증명한다. 이는 순차적 주의적 학습 환경에서도 성립한다.

실험 결과

연구 질문

• RQ1 가상의 레이블된 데이터 포인트를 추가했을 때 전체 재학습 결과를 효율적으로 근사하기 위해 신경미분커널(NTK)을 사용할 수 있는가?
• RQ2 NTK 기반 근사는 전체 재학습이 불가능한 딥 네트워크에서 정확한 룩어헤드 획득 함수를 가능하게 하는가?
• RQ3 NTK 근사는 레이블링과 SGD 학습을 분리함으로써 순차적 주의적 학습을 지원할 수 있는가?
• RQ4 제안된 방법의 성능는 표준 벤치마크에서 최신 주의적 학습 기준선과 비교해 어떻게 되는가?
• RQ5 무한한 넓이 근사 외에도 상대적으로 얇은 네트워크에서도 NTK 근사는 정확도를 유지하는가?

주요 결과

• NTK 기반 방법은 낭비적인 재학습 대비 룩어헤드 획득에 소요되는 월클럭 타임을 100배 이상 감소시켰다.
• 이 방법은 모든 기존의 룩어헤드 전략을 능가하며, MNIST, SVHN, CIFAR10, CIFAR100에서 최고 성능을 달성했다.
• NTK 방법을 사용한 순차적 쿼리 전략은 3라운드 내로 MNIST에서 96%의 정확도를 달성했으며, 배치 기반 NTK 및 무작위 레이블링 전략을 모두 능가했다.
• NTK 근사는 중간 정도의 넓이를 가진 네트워크에서도 효과적이며, 테스트된 모든 넓이에서 무작위 레이블링 대비 일관된 성능 향상을 보였다.
• 이 방법은 레이블링과 학습을 분리함으로써, 재학습 없이도 새로운 레이블에서 성능 향상을 이끌어내는 것을 가능하게 하였다. 이는 기존의 주의적 학습에서는 불가능한 일이다.
• NTK 근사는 무한한 넓이 영역에서 전체 재학습과 점차적으로 동일한 결과를 도출함을 입증하여 이론적 타당성을 입증했다.