[논문 리뷰] Class-Incremental Learning via Knowledge Amalgamation

Marcus de Carvalho, Mahardhika Pratama외 2명|arXiv (Cornell University)|2022. 09. 05.

Domain Adaptation and Few-Shot Learning인용 수 5

한 줄 요약

이 논문은 지식 융합을 통한 클래스 증분 학습(CFA)을 제안하며, 이는 이전 작업에서 훈련된 다수의 이질적인 교사 모델에서 지식을 흡수하여 단일의 컴act한 학생 모델로 정제하는 후처리 방법이다. 이 방법은 비순환 학습 파이프라인에 쉽게 통합되며, 최소한의 메모리 사용으로 최신 기술 수준의 성능을 달성하며, 강력한 일반화 능력과 후방/전방 지식 전이 능력을 보여준다.

ABSTRACT

Catastrophic forgetting has been a significant problem hindering the deployment of deep learning algorithms in the continual learning setting. Numerous methods have been proposed to address the catastrophic forgetting problem where an agent loses its generalization power of old tasks while learning new tasks. We put forward an alternative strategy to handle the catastrophic forgetting with knowledge amalgamation (CFA), which learns a student network from multiple heterogeneous teacher models specializing in previous tasks and can be applied to current offline methods. The knowledge amalgamation process is carried out in a single-head manner with only a selected number of memorized samples and no annotations. The teachers and students do not need to share the same network structure, allowing heterogeneous tasks to be adapted to a compact or sparse data representation. We compare our method with competitive baselines from different strategies, demonstrating our approach's advantages.

연구 동기 및 목표

• 기존의 오프라인 학습 파이프라인으로의 원활한 통합을 위해, 다수의 이질적인 교사 모델에서 지식 정제를 통해 재학습 없이도 치명적인 잊음 문제를 완화하는 방법을 제안한다.
• 기존의 오프라인 학습 파이프라인에 대한 전체적인 전환 없이도 원활하게 통합될 수 있는 방법을 개발한다.
• 교수 및 학습자 모델의 아키텍처가 다를 경우에도, 계산 및 메모리 비용이 제한된 상태에서 모든 작업에서 높은 성능을 유지한다.
• 학습 시점에 작업 식별자 없이도 제로샷 일반화 및 효과적인 후방/전방 지식 전이를 가능하게 한다.
• 새로운 클래스가 추가될 경우 전체 모델을 다시 훈련하지 않고도 적용 가능한 후처리 솔루션을 제공한다.

제안 방법

• 기존 작업에서 표준 오프라인 훈련을 사용하여 각 작업 전용 교사 모델을 독립적으로 훈련한다.
• 지식 융합을 위한 메모리로 사용할 수 있도록 이전 작업들에서 작은 고정된 수의 비라벨 샘플을 선택한다.
• 기억된 샘플에서 모든 교사 모델의 출력을 모방하도록 지식 정제를 사용하여 단일 학생 모델을 훈련한다.
• 학생 모델의 잠재 공간을 다양한 작업 간에 정렬함으로써 일반화 능력을 향상시키기 위해 공동 표현 학습(JRL) 손실을 도입한다.
• 교사와 학생의 특징 간 분포 이탈을 줄여 지식 전이를 향상시키기 위해 소프트 도메인 적응(SDA)을 적용한다.
• 교수 및 학습자 간의 이질적인 아키텍처를 허용하여, 아키텍처 제약 없이도 컴act하거나 희소한 학생 모델을 설계할 수 있다.

실험 결과

연구 질문

• RQ1 다수의 이질적인 교사 모델에서의 지식이 효과적으로 하나의 학생 모델로 융합될 수 있는가? 이는 클래스 증분 학습에서 치명적인 잊음 문제를 완화하는 데 기여하는가?
• RQ2 기존의 지속적 학습 기준 대비 제한된 메모리 예산 하에서 제안된 방법의 성능은 어떠한가?
• RQ3 피팅 조정 없이도 학생 모델이 미리 보지 않은 클래스에 대해 얼마나 잘 일반화되는가(제로샷 학습 능력)?
• RQ4 JRL 및 SDA 구성 요소가 학생 모델의 지식 전이 및 안정성에 얼마나 기여하는가?
• RQ5 기존 오프라인 학습 파이프라인에 아키텍처나 훈련 파이프라인 변경 없이 원활하게 통합될 수 있는가?

주요 결과

• Split CIFAR-10에서 1000개 샘플의 메모리 예산을 가질 경우 CFA는 74.96%의 정확도를 달성하며, 동일 조건에서 DER(72.99%), DER++(77.86%), FDR(41.91%)를 모두 초월한다.
• 고정된 1000개 샘플의 메모리 예산을 가진 CFA${}_{\text{fixed}}$는 Split CIFAR-10에서 74.96%의 정확도, Split CIFAR-100에서는 27.76%의 정확도를 유지하여 최소한의 메모리 사용으로도 뛰어난 성능을 보인다.
• 절단 실험 결과에 따르면, 공동 표현 학습(JRL)이 성능 향상의 주요 원동력임을 확인할 수 있으며, JRL를 비활성화하면 SDA가 있더라도 정확도가 69.68%로 떨어진다.
• CFA${}_{\text{grow}}$는 증가하는 메모리 예산에 따라 성능 향상을 보이며, 2000개 샘플을 사용할 경우 Split CIFAR-10에서 79.40%의 정확도를 기록하여 증가하는 메모리 예산 하에서도 확장 가능함을 입증한다.
• 이 방법은 효과적인 후방 및 전방 지식 전이를 가능하게 하며, 다양한 작업 간 강력한 일반화 능력과 제로샷 학습 능력의 증거를 보여준다.
• CFA는 뛰어난 메모리 효율성과 통합 가능성 덕분에, 재훈련 없이도 기존 오프라인 모델에 후처리 단계로 적용 가능하다.