[논문 리뷰] Gradient Regularized Contrastive Learning for Continual Domain Adaptation

Shixiang Tang, Peng Su외 2명|arXiv (Cornell University)|2021. 03. 23.

Domain Adaptation and Few-Shot Learning참고 문헌 67인용 수 9

한 줄 요약

이 논문은 지속적 도메인 적응을 위한 기울기 정규화 대비 학습(GRCL)을 제안한다. GRCL은 소스 도메인의 분류 기능을 유지하고 이전 타겟 도메인의 기억을 방지하기 위해 기울기 정규화를 사용한다. 소스 도메인과 이전 타겟 도메인의 분류 손실과 양의 기울기 상관관계를 강제함으로써 GRCL은 새로운 도메인으로의 적응을 향상시키면서도 이전 도메인의 성능를 유지한다. 이로 인해 세 가지 벤치마크에서 기준 모델 대비 5퍼센트 이상의 정확도 향상을 달성한다.

ABSTRACT

Human beings can quickly adapt to environmental changes by leveraging learning experience. However, adapting deep neural networks to dynamic environments by machine learning algorithms remains a challenge. To better understand this issue, we study the problem of continual domain adaptation, where the model is presented with a labelled source domain and a sequence of unlabelled target domains. The obstacles in this problem are both domain shift and catastrophic forgetting. We propose Gradient Regularized Contrastive Learning (GRCL) to solve the obstacles. At the core of our method, gradient regularization plays two key roles: (1) enforcing the gradient not to harm the discriminative ability of source features which can, in turn, benefit the adaptation ability of the model to target domains; (2) constraining the gradient not to increase the classification loss on old target domains, which enables the model to preserve the performance on old target domains when adapting to an in-coming target domain. Experiments on Digits, DomainNet and Office-Caltech benchmarks demonstrate the strong performance of our approach when compared to the other state-of-the-art methods.

연구 동기 및 목표

• 지속적 도메인 적응(cDA)에서 도메인 이동과 치명적인 잊힘의 이중 과제를 해결하기 위해.
• 새로운 타겟 도메인으로의 적응을 향상시키기 위해 소스 도메인 특징의 분류 능력을 유지하기 위해.
• 점진적인 적응 과정에서 이전에 본 타겟 도메인의 성능 저하를 명시적으로 방지하기 위해.
• 순차적인 도메인 이동 동안 정확도와 안정성 양면에서 기존 방법을 능가하는 방법을 개발하기 위해.

제안 방법

• GRCL은 소스 도메인과 타겟 도메인 간의 도메인 불변 표현을 학습하기 위해 대비 학습을 사용한다.
• 소스 분류 기능 제약은 기울기가 소스 도메인의 분류 손실을 해치지 않도록 보장하여 특징의 분류 기능을 유지한다.
• 타겟 기억 제약은 기울기가 이전 타겟 도메인의 분류 손실을 증가시키지 않도록 강제하여 치명적인 잊힘을 완화한다.
• 고품질의 지도 신호를 확보하기 위해 클러스터링을 통해 이전 타겟 도메인의 의사 레이블을 생성하고 신뢰도 기준을 적용해 필터링한다.
• 대비 손실과 소스 및 과거 타겟 도메인 성능 유지에 기여하는 두 가지 기울기 정규화 항을 결합하여 파라미터 갱신을 제약한다.
• 기존 도메인의 특징을 저장하는 메모리 백업을 통해 전체적으로 끝에서 끝까지 학습한다.

실험 결과

연구 질문

• RQ1 지속적인 새로운 타겟 도메인으로의 적응 과정에서 소스 도메인 특징의 분류 능력을 어떻게 유지할 수 있는가?
• RQ2 순차적인 타겟 도메인으로의 적응에서 치명적인 잊힘을 효과적으로 방지할 수 있는 메커니즘은 무엇인가?
• RQ3 기울기 정규화가 소스 도메인과 이전에 본 타겟 도메인 양쪽에서 성능 유지에 다중 작업 학습보다 뛰어난 성능을 낼 수 있는가?
• RQ4 기억을 갖는 대비 학습은 지속적 도메인 적응에서 일반화 능력을 얼마나 향상시키는가?
• RQ5 제안된 제약 조건은 순차적인 도메인 적응에서 정확도와 백워드 전이에 어떤 영향을 미치는가?

주요 결과

• GRCL은 Digits, DomainNet, Office-Caltech 벤치마크에서 가장 강력한 기준 모델 대비 정확도를 5퍼센트 이상 향상시켰다.
• 소스 분류 기능 제약은 새로운 타겟 도메인으로의 적응 정확도를 약 2.2퍼센트 향상시켰으며, 백워드 전이에 미미한 영향을 주었다.
• 타겟 기억 제약은 약 6퍼센트의 백워드 전이 향상을 이끌어내어 치명적인 잊힘의 효과적인 완화를 입증했다.
• GRCL은 다중 작업 학습 기준 모델 대비 약 4퍼센트의 BWT 향상을 달성하여 기울기 정규화가 지식 유지에 효과적임을 확인했다.
• 메모리 크기와 학습 에포크 수를 늘일수록 성능이 일관되게 향상되어 대비 학습 구성 요소의 확장 가능성을 확인했다.