[논문 리뷰] Bayesian Incremental Learning for Deep Neural Networks

Max Kochurov, Timur Garipov외 4명|arXiv (Cornell University)|2018. 02. 20.

Domain Adaptation and Few-Shot Learning참고 문헌 8인용 수 10

한 줄 요약

이 논문은 정규화 흐름을 사용한 변분 추론를 통해 사후 가중치 분포를 갱신하는 베이지안 증분 학습 프레임워크를 제안한다. 이는 기존 데이터의 지식을 유지하면서 새로운 데이터 증분에 적응함으로써 치명적인 잊음 없이 안정적이고 지속적인 학습을 가능하게 한다. 이 방법은 표준 미세조정보다 MNIST와 CIFAR-10에서 더 높은 성능을 보이며, 이는 이전 데이터의 지식을 유지하면서 새로운 데이터에 적응하기 때문이다.

ABSTRACT

In industrial machine learning pipelines, data often arrive in parts. Particularly in the case of deep neural networks, it may be too expensive to train the model from scratch each time, so one would rather use a previously learned model and the new data to improve performance. However, deep neural networks are prone to getting stuck in a suboptimal solution when trained on only new data as compared to the full dataset. Our work focuses on a continuous learning setup where the task is always the same and new parts of data arrive sequentially. We apply a Bayesian approach to update the posterior approximation with each new piece of data and find this method to outperform the traditional approach in our experiments.

연구 동기 및 목표

• 순차적인 데이터 스트림에서 지속적 학습 동안 깊이 신경망에서 치명적인 잊음을 해결하기 위해.
• 과거 데이터를 저장하지 않고도 사후 가중치 분포를 증분적으로 갱신할 수 있는 확장 가능한 베이지안 추론 방법을 개발하기 위해.
• 예측 불확실성 추정을 유지하고 국소 최적해에 갇히는 것을 방지함으로써 순차적 데이터에서 모델 성능을 향상시키기 위해.
• 재학습이 불가능한 산업용 파ip라인에 베이지안 딥 러닝을 적용할 수 있도록 하기 위해.

제안 방법

• 증분 학습을 위한 변분 하한을 최적화하기 위해 재정의 기법을 사용한 확률적 변분 추론을 사용한다.
• 네트워크 가중치에 대한 복잡하고 고엔트로피가 높은 사후 분포를 모델링하기 위해 곱셈형 정규화 흐름(MNF)을 적용한다.
• 가중치 w와 보조 변수 z에 대한 공동 변분 근사 q(w,z)를 정의하여 효율적이고 미분 가능한 기울기 추정을 가능하게 한다.
• 이전 단계의 사전 분포 p_t(w) = q(w|φ_{t-1})를 사용하여 각 데이터 증분 간의 사후 근사에 연속성을 확보한다.
• 지역 재정의와 분석적 KL 발산 항을 사용하여 중첩 기대값을 피하는 처리 가능한 변분 하한을 유도한다.
• 정규화 흐름과 보조 변수에서 샘플링을 통해 비편향 몽테카를로 기울기 추정을 가능하게 하여 엔드 투 엔드 학습을 지원한다.

실험 결과

연구 질문

• RQ1 정규화 흐름을 사용한 베이지안 증분 학습이 지속적 학습 시나리오에서 표준 미세조정을 능가할 수 있는가?
• RQ2 변분 근사 가족의 선택이 증분 학습에서 안정성과 성능에 미치는 영향은 어떠한가?
• RQ3 과거 데이터에 접근할 수 없음에도 불구하고 확장 가능한 베이지안 방법이 예측 불확실성을 유지하고 치명적인 잊음을 방지할 수 있는가?
• RQ4 가중치와 보조 변수에 대한 공동 사후 분포를 사용하면 증분 환경에서 최적화와 일반화가 향상되는가?
• RQ5 가장자리 가중치 분포와 같은 더 표현력 있는 사후 근사(예: 곱셈형 정규화 흐름)가 단순한 가우시안 가족(예: 인과 분해된 가우시안)보다 정확도와 수렴 속도 측면에서 어떻게 비교되는가?

주요 결과

• 제안된 베이지안 증분 학습 방법은 순차적 데이터 배치에서 학습할 때 MNIST와 CIFAR-10에서 표준 미세조정보다 더 높은 테스트 정확도를 달성한다.
• 곱셈형 정규화 흐름은 완전히 인과 분해된 가우시안보다 더 표현력 있는 사후 근사 분포를 제공하여 더 나은 일반화와 잊음 감소를 이끈다.
• 과거 데이터에 접근할 수 없음에도 불구하고 여러 데이터 증분 동안 안정적인 성능 유지를 유지하며 치명적인 잊음을 방지한다.
• 정규화 흐름과 함께 공동 변분 추론을 사용함으로써 비편향 기울기 추정을 가능하게 하는 효율적이고 미분 가능한 학습이 가능하다.
• 기존의 사전 학습된 비베이지안 DNN와의 호환성이 있으며, 기존 모델의 증분 적응을 가능하게 한다.