[논문 리뷰] Finding Structure in Continual Learning

Pourya Shamsolmoali, Masoumeh Zareapoor|arXiv (Cornell University)|2026. 02. 04.

Domain Adaptation and Few-Shot Learning인용 수 0

한 줄 요약

이 논문은 연속 학습을 두 목표 문제로 재정의하고, 장애물인 가소성과 안정성의 분리를 달성하기 위해 Douglas-Rachford Splitting(DRS)을 사용합니다. 재생 또는 아키텍처 확장 없이도 안정성-가소성의 트레이드오프를 더 잘 달성합니다.

ABSTRACT

Learning from a stream of tasks usually pits plasticity against stability: acquiring new knowledge often causes catastrophic forgetting of past information. Most methods address this by summing competing loss terms, creating gradient conflicts that are managed with complex and often inefficient strategies such as external memory replay or parameter regularization. We propose a reformulation of the continual learning objective using Douglas-Rachford Splitting (DRS). This reframes the learning process not as a direct trade-off, but as a negotiation between two decoupled objectives: one promoting plasticity for new tasks and the other enforcing stability of old knowledge. By iteratively finding a consensus through their proximal operators, DRS provides a more principled and stable learning dynamic. Our approach achieves an efficient balance between stability and plasticity without the need for auxiliary modules or complex add-ons, providing a simpler yet more powerful paradigm for continual learning systems.

연구 동기 및 목표

• 연속 학습에서 안정성-가소성 딜레마를 동기화하고 최적화 얽힘이 근본 문제임을 비판한다.
• 재생 없이, DRS 기반의 최적화 프레임워크를 제안하여 작업 적합성(가소성)과 prior 정렬(안정성)을 분리한다.
• Rényi 발산을 이용한 구조화된 지식 전달을 가능하게 하는 베이지안 잠재 공간을 활용한다.
• 수렴 보장과 표준 벤치마크에서의 실험적 우수성을 입증한다.
• 잠재적 확률적 특성과 발산 매개변수 설정과 같은 설계 선택의 타당성을 확인하는 차폐 실험을 제공한다.

제안 방법

• 현재 작업에 대한 과제 적합 손실 f를 최소화하고, posterior와 prior 사이의 Rényi 발산을 통해 안정성 g를 최소화하는 지속적 학습 목표를 형식화한다.
• prox_f와 prox_g를 각각 해결하여 반복적이고 느슨한 업데이트 루프에서 능동적으로 분리하는 Douglas-Rachford Splitting을 사용한다.
• 업데이트 단계: 1) 현재 작업에 맞추는 가소성의 prox_f; 2) 엔코더를 prior와 정렬하기 위한 반사에서의 prox_g(안정성); 3) 가소성과 안정성을 λ_r 매개변수로 결합하는 느슨한 업데이트.
• 잠재 z를 가우시안 q_φ(z|x)와 가우시안 사전 p(z)로 매개화하고 작업 간 사후-사전 전파를 사용한다.
• α>1인 Rényi 발상 D_α(q||p) (경험적으로 2.0)로 안정적이고 유연한 제약을 적용하며 가우시안 케이스에 대한 닫힌 형식을 제공(A.4.1).
• DRs의 고정점이 합성 목표의 정지점에 대응한다는 수렴 증명을 제시하고, 근사 단계 간의 차이가 감소함을 보인다(||x_k - y_k|| -> 0).

실험 결과

연구 질문

• RQ1 DRS 분할 기반 최적화가 연속 학습에서 가소성과 안정성을 분리하고 정지점으로 수렴할 수 있는가?
• RQ2 KL 대신 Rényi 발산을 사용하면 재생 없이도 안정성-가소성 균형과 강인성이 향상되는가?
• RQ3 구조화된 잠재 공간으로의 사후-사전 전파가 오랜 작업 순서에서 전달을 강화하고 망각을 줄이는가?
• RQ4 제안된 방법은 표준 CL 벤치마크에서 분리 작업(disjoint)과 합동 작업(joint) 설정에서 어떻게 수행되는가?
• RQ5 잠재 확률적 특성과 발산 매개변수 α가 성능 및 계산 시간에 미치는 영향은 무엇인가?

주요 결과

방법	CIFAR-100 [10]	CIFAR-100 [20]	Tiny-ImageNet [20]	ImageNet [100]	평균	CelebA [10]	EM [10]	평균
본 방법	71.8±0.3	79.5±0.6	51.6±0.4	59.7±0.5	65.7	87.9±0.5	88.6±0.1	88.2

• DRS 기반 연속 학습자는 분리된 벤치마크에서 평균 정확도 최상(65.7)과 거의 최소 망각(BWT -1.9)을 달성한다.
• 합동 작업 설정에서 이 방법은 최고 정확도(88.2)와 가장 강한 양의 역방향 전달(BWT +3.2)을 보인다.
• 앞으로의 전달은 강력하며 새로운 작업에서 최대 +10.4의 개선이 나타난다.
• 차폐 실험은 잠재적 확률적 특성과 Rényi 발산(alpha이 약 2.0일 때)이 성능에 이롭고, 결정론적 잠재는 정확도를 감소시킨다는 것을 보여준다.
• 이 접근법은 재생 없이도 경쟁력 있는 런타임을 보이며 정확도 측면에서 베이스라인을 능가한다.
• 이론적 결과는 가소성과 안정성의 차이가 감소하는 점으로 고정점으로의 수렴을 보장한다.