[논문 리뷰] Incremental Learning In Online Scenario

Jiangpeng He, Runyu Mao외 2명|arXiv (Cornell University)|2020. 03. 30.

Data Stream Mining Techniques참고 문헌 32인용 수 10

한 줄 요약

이 논문은 두 단계 학습 기법과 동적 예시 집합 갱신을 통한 수정된 교차 정규화 손실을 도입하여, 치명적 기억 상실과 개념 이동을 동시에 해결하는 온라인 증분 학습 프레임워크를 제안한다. 이 프레임워크는 온라인 학습 조건 하에서 CIFAR-100과 ImageNet-1000에서 최신 기술(SOTA) 성능을 달성하며, 오프라인 방법을 능가하며 실시간 환경에서 새로운 클래스와 이전 클래스의 새로운 관측치를 모두 처리할 수 있다.

ABSTRACT

Modern deep learning approaches have achieved great success in many vision applications by training a model using all available task-specific data. However, there are two major obstacles making it challenging to implement for real life applications: (1) Learning new classes makes the trained model quickly forget old classes knowledge, which is referred to as catastrophic forgetting. (2) As new observations of old classes come sequentially over time, the distribution may change in unforeseen way, making the performance degrade dramatically on future data, which is referred to as concept drift. Current state-of-the-art incremental learning methods require a long time to train the model whenever new classes are added and none of them takes into consideration the new observations of old classes. In this paper, we propose an incremental learning framework that can work in the challenging online learning scenario and handle both new classes data and new observations of old classes. We address problem (1) in online mode by introducing a modified cross-distillation loss together with a two-step learning technique. Our method outperforms the results obtained from current state-of-the-art offline incremental learning methods on the CIFAR-100 and ImageNet-1000 (ILSVRC 2012) datasets under the same experiment protocol but in online scenario. We also provide a simple yet effective method to mitigate problem (2) by updating exemplar set using the feature of each new observation of old classes and demonstrate a real life application of online food image classification based on our complete framework using the Food-101 dataset.

연구 동기 및 목표

• 기존 클래스의 지식을 유지하면서 새로운 클래스를 학습해야 하는 온라인 증분 학습 환경에서 치명적 기억 상실 문제를 해결하기 위해.
• 이전 클래스의 새로운 관측치의 특징을 사용하여 예시 집합을 동적으로 갱신함으로써 개념 이동을 완화하기 위해.
• 제한된 계산 자원과 스트리밍 데이터를 처리하는 실세계 이미지 분류 시스템에서의 종신 학습을 가능하게 하기 위해.
• 온라인 순차적 데이터 처리 환경에서 신규 클래스와 이전 클래스 모두에서 뛰어난 성능을 내는 프레임워크를 개발하기 위해.
• Food-101 데이터셋을 활용한 실세계 식품 이미지 분류 시스템을 통해 실용적 적용 가능성을 입증하기 위해.

제안 방법

• 온라인 학습 중 현재 모델과 이전 모델 예측 간 지식 정규화를 향상시키기 위해 수정된 교차 정규화 손실을 도입한다.
• 두 단계 학습 기법을 활용한다: 첫 번째로, 특징 인코더를 사용해 도착하는 데이터로부터 표현 지식을 학습하고, 두 번째로, 지식 정규화를 적용하여 이전 클래스의 성능을 유지한다.
• 모든 관측 데이터(새로운 관측치 포함)를 사용해 클래스 평균 특징을 계산하여 각 이전 클래스의 예시 집합을 동적으로 갱신한다.
• 온라인 업데이트 중 표현 학습을 향상시키기 위해 최적의 블록 크기(p=16)를 사용한 블록 단위 특징 집약 전략을 적용한다.
• 증분 학습 중 신규 클래스와 이전 클래스의 성능를 균형 잡기 위해 적응 비율(β=0.5)을 적용한다.
• 베이스라인 및 표현 학습 방법을 결합하고, 데이터 가용성에 따라 자동으로 전환하여 온라인 정확도를 최대화한다.

실험 결과

연구 질문

• RQ1 딥 러닝 모델은 온라인 스트리밍 데이터 환경에서 새로운 클래스를 증분적으로 학습하면서도 이전에 학습한 클래스에서 높은 성능를 유지할 수 있는가?
• RQ2 기존 클래스 데이터의 예상치 못한 분포 이동인 개념 이동은 온라인 학습 중 어떻게 효과적으로 완화할 수 있는가?
• RQ3 통합 프레임워크는 단일 온라인 학습 파이프라인 내에서 신규 클래스와 이전 클래스의 새로운 관측치를 동시에 처리할 수 있는가?
• RQ4 두 단계 학습 기법을 적용한 수정된 교차 정규화 손실은 기존 오프라인 증분 학습 방법보다 온라인 환경에서 더 뛰어난 성능를 보일 수 있는가?
• RQ5 동적 예시 집합 갱신은 향후 데이터 스트림에서 장기적인 성능 향상에 얼마나 기여하는가?

주요 결과

• 제안된 방법은 Food-101 데이터셋에서 모든 증분 학습 단계에서 가장 높은 온라인 정확도를 달성하였으며, 베이스라인 및 표현 학습 방법을 모두 능가하였다.
• CIFAR-100과 ImageNet-1000에서 동일한 벤치마크 프로토콜 하에, 더 제약이 있는 온라인 환경에서도 최신 기술(SOTA) 성능을 달성하였다.
• 수정된 교차 정규화 손실만으로도 예시 갱신 없이도 표준 교차 엔트로피와 표준 교차 정규화보다 모든 증분 단계에서 뛰어난 성능를 보였다.
• 동적 예시 집합 갱신은 시간이 지남에 따라 데이터 분포가 변화함에 따라 이전 클래스의 온라인 정확도 향상에 명확한 기여를 하였다.
• 표현 학습과 베이스라인 적응의 조합은 각각의 방법보다 더 높은 종합적인 온라인 정확도를 달성하였으며, 특히 데이터가 부족한 초반 단계에서 두드러졌다.
• 기존 베이스라인 대비 시험 정확도 향상이 뚜렷했으며, 종신 학습 환경에서 신규 클래스와 이전 클래스 모두에서 강력한 성능를 유지하였다.