[논문 리뷰] Continuous Domain Adaptation with Variational Domain-Agnostic Feature Replay

Qicheng Lao, Xiang Jiang외 2명|arXiv (Cornell University)|2020. 03. 09.

Domain Adaptation and Few-Shot Learning참고 문헌 51인용 수 29

한 줄 요약

이 논문은 비정상 환경에서 연속적 도메인 적응을 위한 변동형 도메인 무관 특징 재생 프레임워크를 제안한다. 이는 작업 드리프트(task drift)와 도메인 드리프트(domain drift)를 동시에 다루며, 스트리밍 데이터에서 강화된 일반화 능력과 치명적인 잊음(catastrophic forgetting) 감소를 달성하는 데 성공한다. 입력을 추론 모듈을 통해 도메인 무관 특징으로 필터링하고, 변동형 생성 모듈을 통해 이전 도메인의 이식 가능한 지식을 생성하며, 이를 해결 모듈을 통해 적용함으로써, 지속적인 학습에서 뛰어난 내구성과 일반화 능력을 확보한다.

ABSTRACT

Learning in non-stationary environments is one of the biggest challenges in machine learning. Non-stationarity can be caused by either task drift, i.e., the drift in the conditional distribution of labels given the input data, or the domain drift, i.e., the drift in the marginal distribution of the input data. This paper aims to tackle this challenge in the context of continuous domain adaptation, where the model is required to learn new tasks adapted to new domains in a non-stationary environment while maintaining previously learned knowledge. To deal with both drifts, we propose variational domain-agnostic feature replay, an approach that is composed of three components: an inference module that filters the input data into domain-agnostic representations, a generative module that facilitates knowledge transfer, and a solver module that applies the filtered and transferable knowledge to solve the queries. We address the two fundamental scenarios in continuous domain adaptation, demonstrating the effectiveness of our proposed approach for practical usage.

연구 동기 및 목표

• 지속적으로 변화하는 환경에서 작업 드리프트(P(Y|X)의 변화)와 도메인 드리프트(P(X)의 변화)가 동시에 발생하는 지원 및 쿼리 데이터 스트림 간에 지속적 학습의 과제를 해결하기 위해.
• 클라우드 기반 AI 시스템에서 학습된 지식을 도메인 무관이고 이식 가능한 표현으로 필터링하여 지식 유지 및 이전 가능성을 보장하기 위해.
• 원시 데이터나 활성화 값이 아닌 고수준의 추상적 특징을 재생함으로써 치명적인 잊음을 완화하고, 인간과 유사한 지식 추상화를 모방하기 위해.
• 지속적 도메인 적응에서 쿼리 스트림에 작업 드리프트가 존재하는 경우와 도메인 드리프트가 존재하는 경우의 두 가지 기본 시나리오에서 접근법을 검증하기 위해.
• 생성형 특징 재생이 일반화 능력을 향상시키기 위한 데이터 증강의 한 형태로 활용될 잠재력을 탐색하기 위해.

제안 방법

• 추론 모듈은 입력 데이터를 상호정보량을 최소화함으로써 도메인 무관 특징으로 변환하며, 레이블 지도를 활용해 작업 관련 정보를 유지한다.
• 생성 모듈은 도메인 무관 특징에 대한 변동형 사후분포를 학습하여 이전 도메인의 재생 가능하고 이식 가능한 지식을 합성한다.
• 해결 모듈은 필터링된 및 생성된 도메인 무관 특징을 활용해 들어오는 쿼리 데이터의 레이블을 예측하며, 특징과 레이블 간의 상호정보량을 최대화한다.
• 프레임워크는 특징 압축과 예측 성능 간의 균형을 이루는 변동형 정보 블로킹 목표를 사용하며, 이 블로킹은 잠재 코드가 아닌 복원된 특징에 적용된다.
• 지식 재생은 데이터 수준이 아니라 특징 수준에서 수행되어 선택적이고 추상적인 재생이 가능하게 하며, 치명적인 잊음을 방지하면서 일반화 능력을 유지한다.
• 이 방법은 쿼리 데이터에 대한 추가 정규화가 필요 없으며, 도메인 전이 패턴에 대한 가정 없이 작동하므로 광범위한 적용 가능성을 가진다.

실험 결과

연구 질문

• RQ1 변동형 도메인 무관 특징 재생 메커니즘이 작업 드리프트와 도메인 드리프트가 동시에 발생하는 상황에서 치명적인 잊음을 효과적으로 완화할 수 있는가?
• RQ2 지속적으로 변화하는 도메인과 작업을 가진 스트리밍 데이터에 적용했을 때, 제안된 방법의 일반화 능력은 어느 정도인가?
• RQ3 생성형 특징 재생이 연속적 도메인 적응 환경에서 모델의 일반화 능력을 향상시키기 위한 데이터 증강의 한 형태로 얼마나 효과적인가?
• RQ4 지식을 도메인 무관 표현으로 필터링하는 것이 다양한 비정상적 환경에서 이식 가능성과 내구성을 향상시키는가?
• RQ5 기존의 데이터 수준 또는 활성화 수준에서 작동하는 재생 기반 지속적 학습 방법과 비교해 제안된 접근법은 어떠한가?

주요 결과

• 제안된 방법은 Pr → Cl 시나리오에서 1.89%의 정확도 향상을, Pr → Ar 시나리오에서도 1.89%의 정확도 향상을 기록하여 다양한 드리프트 유형에서 일관된 성능 향상을 입증한다.
• 생성형 특징 재생 메커니즘은 훈련 중에 도메인 무관 특징 샘플을 증강함으로써 정규화 역할을 하며, 일반화 능력을 향상시킨다.
• 이 방법은 원시 데이터나 활성화 값이 아닌 추상적이고 이식 가능한 지식을 유지함으로써 치명적인 잊음을 효과적으로 줄인다.
• 추론 모듈과 해결 모듈 간의 상호작용은 기능적 정보 블로킹을 만들어내며, 이는 특징의 분리성과 예측 성능 향상에 기여한다.
• 이 방법은 도메인 전이 패턴이나 쿼리 데이터의 구조에 대한 가정 없이 다양한 비정상적 환경에서 잘 일반화된다.
• 결과적으로 고수준 특징 재생이 스트리밍 및 클라우드 기반 AI 시스템에서의 지속적 적응에 있어 데이터 수준의 재생보다 더 효과적임을 보여준다.