[논문 리뷰] Generalized Variational Continual Learning

Noel Loo, Siddharth Swaroop외 1명|arXiv (Cornell University)|2020. 11. 24.

Domain Adaptation and Few-Shot Learning참고 문헌 31인용 수 15

한 줄 요약

이 논문은 일반화된 변분 지속 학습(GVCL)을 제안하며, 가능도 온도 조절을 통해 변분 지속 학습(VCL)과 온라인 탄성 가중치 통합(Online EWC)을 통합하는 유일한 프레임워크로, 성능을 크게 향상시킨다. 또한 변분 추론의 과도한 정제 문제를 완화하기 위해 작업별 FiLM 레이어를 도입하여, 특히 소규모 데이터 환경에서 최신 기준 성능과 개선된 校정 능력을 달성한다.

ABSTRACT

Continual learning deals with training models on new tasks and datasets in an online fashion. One strand of research has used probabilistic regularization for continual learning, with two of the main approaches in this vein being Online Elastic Weight Consolidation (Online EWC) and Variational Continual Learning (VCL). VCL employs variational inference, which in other settings has been improved empirically by applying likelihood-tempering. We show that applying this modification to VCL recovers Online EWC as a limiting case, allowing for interpolation between the two approaches. We term the general algorithm Generalized VCL (GVCL). In order to mitigate the observed overpruning effect of VI, we take inspiration from a common multi-task architecture, neural networks with task-specific FiLM layers, and find that this addition leads to significant performance gains, specifically for variational methods. In the small-data regime, GVCL strongly outperforms existing baselines. In larger datasets, GVCL with FiLM layers outperforms or is competitive with existing baselines in terms of accuracy, whilst also providing significantly better calibration.

연구 동기 및 목표

• 변분 지속 학습(VCL)과 온라인 탄성 가중치 통합(Online EWC)을 단일 가능도 온도 조절 변분 추론 프레임워크로 통합하기 위해.
• 지속 학습을 위한 변분 추론에서 내재된 과도한 정제 문제를 해결하기 위해.
• 특히 소규모 데이터 환경에서 일반화 및 校정 능력을 향상시키기 위해.
• 변분 지속 학습 방법의 성능을 향상시키는 확장 가능한 아키텍처 솔루션을 개발하기 위해.
• 다양한 지속 학습 벤치마크에서 프레임워크를 실증적으로 검증하기 위해. 이는 소규모 데이터 및 혼합 시각 작업을 포함한다.

제안 방법

• GVCL은 ELBO의 KL 정규화 항을 약화시키기 위해 온도 파라미터 β를 도입하여 VCL 목표 함수에 가능도 온도 조절을 적용한다.
• β → 0일 때의 극한 경우로 온라인 EWC를 복원할 수 있어, VCL과 온라인 EWC 사이의 보간이 가능하다.
• 과도한 정제를 줄이기 위해 작업별 특화된 새로운 아키텍처 구성 요소인 작업별 FiLM 레이어를 도입한다.
• FiLM 레이어는 합성곱 레이어 이후에 적용되며, 메인 네트워크와 함께 엔드 투 엔드로 훈련되어 각 작업에 맞게 특징을 적응적으로 스케일링하고 이동시킨다.
• CIFAR-10, CIFAR-100, MNIST, SVHN, Fashion-MNIST, TrafficSigns, Facescrub, NotMNIST 등의 표준 지속 학습 벤치마크를 사용하여 프레임워크를 평가한다.
• 소규모 데이터 및 대규모 데이터 환경에서 테스트를 수행하며, FiLM 및 β 값에 대한 분석 실험을 실시한다.

실험 결과

연구 질문

• RQ1 가능도 온도 조절을 통해 VCL과 온라인 EWC를 하나의 민첩한 지속 학습 프레임워크로 통합할 수 있는가?
• RQ2 제안된 GVCL 프레임워크가 기존 정규화 기반 지속 학습 방법보다 성능을 향상시키는가?
• RQ3 작업별 FiLM 레이어가 변분 지속 학습에서 관찰되는 과도한 정제 병태를 효과적으로 완화할 수 있는가?
• RQ4 GVCL에 FiLM 레이어를 적용했을 때, HAT 및 PathNet과 같은 강력한 베이스라인 대비 소규모 데이터 환경에서의 성능은 어떠한가?
• RQ5 FiLM 레이어의 추가로 모델의 校정 능력과 전이 학습 성능이 얼마나 향상되는가?

주요 결과

• GVCL에 FiLM 레이어를 적용한 결과, 8개의 혼합 시각 작업 평균에서 다음으로 우수한 베이스라인보다 평균 0.32% 높은 정확도를 달성했으며, 일부 경우에서 HAT 및 PathNet을 크게 앞서는 성능을 보였다.
• F-MNIST 및 Facescrub 작업에서 GVCL-F는 개별 훈련 대비 각각 5.05% 및 3.88%의 향상된 전방 이행 성능를 기록했다.
• GVCL에 FiLM 레이어를 적용한 결과, 기대 校정 오차(ECE)가 크게 감소하여, 베이스라인 대비 더 나은 불확실성 추정 능력을 입증했다.
• FiLM 레이어를 추가했을 때 변분 방법에 대해 성능 향상이 비례적으로 크게 발생함을 확인하여, 과도한 정제를 억제하는 데 효과적임을 입증했다.
• 소규모 데이터 환경에서 GVCL에 FiLM 레이어를 적용한 결과, 특히 전방 및 후방 이행 메트릭에서 기존의 베이스라인을 크게 능가하는 성능을 보였다.
• 분석 실험 결과, GVCL의 최적 β 값은 0.5에서 1.0 사이에 있으며, β=1.0일 때 정확도와 校정 능력의 최적 균형을 이룬다.