[논문 리뷰] Single-Net Continual Learning with Progressive Segmented Training (PST)

Xiaocong Du, Gouranga Charan외 2명|arXiv (Cornell University)|2019. 05. 28.

Domain Adaptation and Few-Shot Learning참고 문헌 39인용 수 4

한 줄 요약

이 논문은 기존 작업의 지식을 유지하기 위해 모델 파라미터를 중요(고정) 및 보조(유지) 그룹으로 분할하고, 고정 크기의 메모리 버퍼를 활용해 재생하는 단일 네트워크 지속적 학습 방법인 프로그레시브 세그먼티드 트레이닝(PST)을 제안한다. PST는 FLOPs가 24배 이상 감소한 상태에서 CIFAR-10 및 CIFAR-100에서 최신 기술 수준의 단일 헤드 정확도를 달성하여 엣지 배포에 매우 효율적이다.

ABSTRACT

There is an increasing need of continual learning in dynamic systems, such as the self-driving vehicle, the surveillance drone, and the robotic system. Such a system requires learning from the data stream, training the model to preserve previous information and adapt to a new task, and generating a single-headed vector for future inference. Different from previous approaches with dynamic structures, this work focuses on a single network and model segmentation to prevent catastrophic forgetting. Leveraging the redundant capacity of a single network, model parameters for each task are separated into two groups: one important group which is frozen to preserve current knowledge, and secondary group to be saved (not pruned) for a future learning. A fixed-size memory containing a small amount of previously seen data is further adopted to assist the training. Without additional regularization, the simple yet effective approach of PST successfully incorporates multiple tasks and achieves the state-of-the-art accuracy in the single-head evaluation on CIFAR-10 and CIFAR-100 datasets. Moreover, the segmented training significantly improves computation efficiency in continual learning.

연구 동기 및 목표

• 자율주행 차량 및 드론과 같은 동적 엣지 시스템에서 지속적 학습의 치명적 기억 상실 문제를 해결한다.
• 사전 작업 식별 없이도 높은 정확도를 유지하는 단일 헤드 평가 성능을 확보한다. 이는 실제 배포 환경에서의 핵심 과제이다.
• 제한된 자원을 가진 환경에서의 효율적 현장 적응을 가능하게 하기 위해 지속적 학습의 계산 비용을 감소시킨다.
• 동적 구조 확장 없이도 이전 지식을 유지하기 위해 단일 정적 네트워크 아키텍처를 사용한다.
• 추가 정규화 없이도 파라미터 분할과 메모리 보조 학습을 통해 높은 효율성과 성능을 달성한다.

제안 방법

• 모델 파라미터를 두 그룹으로 분할한다: 이전 작업에 대한 지식을 유지하기 위해 고정되는 중요한 그룹과 향후 학습을 위해 유지되는 보조 그룹.
• 중요도 샘플링을 사용해 이전 작업에 가장 중요한 파라미터를 식별하고 고정한다.
• 지속적인 재생 학습을 위해 이전에 본 데이터의 소량을 포함하는 고정 크기의 메모리 버퍼를 유지한다.
• 메모리 보조 균형 조정을 적용하여 메모리 샘플의 기여도를 동적으로 조정함으로써 안정적인 학습을 보장한다.
• 분할된 네트워크와 메모리 버퍼를 사용해 점진적으로 새로운 작업을 학습함으로써 파라미터 간 간섭을 방지한다.
• 단일 네트워크의 여유 capacity를 활용해 구조적 변경 없이도 성능를 유지한다.

실험 결과

연구 질문

• RQ1 동적 아키텍처 확장 없이도 단일 정적 신경망 아키텍처가 지속적 학습에서 최신 기술 수준의 성능을 달성할 수 있는가?
• RQ2 메모리 재생과 결합된 파라미터 분할이 단일 헤드 평가에서 치명적 기억 상실을 얼마나 효과적으로 완화하는가?
• RQ3 진행적 분할이 엣지 디바이스에서 지속적 학습의 계산 비용을 얼마나 줄이는가?
• RQ4 중요도 샘플링, 모델 분할, 메모리 균형 조정이 전체 성능에 미치는 상대 기여도는 어떠한가?
• RQ5 제한된 자원 환경에서 PST는 최소한의 메모리 사용과 낮은 FLOP 오버헤드로 높은 정확도를 유지할 수 있는가?

주요 결과

• PST는 5, 10, 20개의 인크리멘탈 태스크를 거쳐 CIFAR-10 및 CIFAR-100에서 최신 기술 수준의 단일 헤드 정확도를 달성한다.
• 중요도 샘플링 또는 모델 분할을 제거하면 정확도가 0.32–0.45%p 감소하여 이들의 핵심적 역할을 입증한다.
• 메모리 보조 균형 조정은 기여도는 낮지만 여전히 성능 향상을 이끌어내며, 다양한 메모리 예산 하에서 0.06–0.11%p의 정확도 향상 기여한다.
• PST는 iCaRL와 같은 정규화 방법 대비 가중치 업데이트 경로에서 FLOPs를 24배 이상 감소시켜 엣지 배포에 특히 유리하다.
• 제한된 메모리에서도 높은 정확도를 유지하지만, 일정한 메모리 크기 이상에서는 성능 향상이 포화 상태에 도달한다.
• 분할된 학습 방식 덕분에 가중치 업데이트 경로의 연산 수가 감소하여 더 빠른 학습과 낮은 지연을 달성한다.