[논문 리뷰] Unsupervised Transductive Domain Adaptation

Ozan Şener, Hyun Oh Song외 2명|arXiv (Cornell University)|2016. 02. 10.

Domain Adaptation and Few-Shot Learning참고 문헌 23인용 수 3

한 줄 요약

이 논문은 소스 및 타겟 도메인 간 비대칭 유사도 측도와 타겟 레이블 추론을 공동으로 최적화하는 새로운 비지도 전도적 도메인 적응 방법을 제안한다. 전도적 레이블 할당과 메트릭 학습을 통한 도메인 적응을 번갈아 수행함으로써, 숫자 인식 및 물체 인식 벤치마크에서 최신 기술 수준(SOTA) 성능을 달성하며, 타겟 도메인 내 분류 능력을 향상시켜 이전 방법들에 비해 뚜렷하게 뛰어난 성능을 발휘한다.

ABSTRACT

Supervised learning with large scale labeled datasets and deep layered models has made a paradigm shift in diverse areas in learning and recognition. However, this approach still suffers generalization issues under the presence of a domain shift between the training and the test data distribution. In this regard, unsupervised domain adaptation algorithms have been proposed to directly address the domain shift problem. In this paper, we approach the problem from a transductive perspective. We incorporate the domain shift and the transductive target inference into our framework by jointly solving for an asymmetric similarity metric and the optimal transductive target label assignment. We also show that our model can easily be extended for deep feature learning in order to learn features which are discriminative in the target domain. Our experiments show that the proposed method significantly outperforms state-of-the-art algorithms in both object recognition and digit classification experiments by a large margin.

연구 동기 및 목표

• 학습 데이터와 테스트 데이터 분포 간 도메인 이동에 따른 딥 모델의 일반화 실패 문제를 해결한다.
• 적응 과정 중 타겟 추론 과정을 고려하지 않는 기존 비지도 도메인 적응 방법의 한계를 극복한다.
• 타겟 레이블 할당과 도메인 변환을 공동으로 최적화하여 타겟 도메인 내 분류 능력을 향상시키는 프레임워크를 개발한다.
• 전도적 모델링을 통해 타겟 도메인 성능에 특별히 최적화된 딥 특징 학습을 가능하게 한다.
• Office 및 MNIST/SVHN과 같은 표준 도메인 적응 벤치마크에서 최신 기술 수준의 성능을 달성한다.

제안 방법

• 전도(레이블 추론)와 적응(메트릭 학습)을 번갈아 수행하는 통합 최적화 프레임워크를 수립한다.
• 전도 단계에서 이산 다중레이블 에너지 최소화를 사용하여 타겟 레이블을 추론하며, 비라벨 타겟 샘플 간의 매끄럽고 일관된 구조를 강제한다.
• 적응 단계에서 소스 및 타겟 데이터 간의 비대칭 유사도 메트릭을 학습하여 대칭 거리 성질을 가정하지 않고 도메인 이동을 모델링할 수 있도록 한다.
• 학습 안정성 향상과 경량화된 기울기 흐름 확보를 위해 레이블 전파를 통합한다.
• 타겟 도메인 분류 정확도에 의존하는 손실 함수를 사용하여 특징 추출기와 적응 모듈을 함께 훈련함으로써 딥 신경망으로의 확장을 이룬다.
• 교대로 최적화 전략을 적용한다: 도메인 변환을 고정하고 레이블을 추론한 후, 레이블을 고정하고 비대칭 메트릭을 갱신한다.

실험 결과

연구 질문

• RQ1 타겟 레이블 추론과 도메인 적응을 공동 최적화하면 도메인 이동 조건 하에서 일반화 능력 향상에 기여하는가?
• RQ2 적응 목표에 전도적 추론 과정을 통합하면 별도로 다루는 방법보다 성능 향상이 이루어지는가?
• RQ3 큰 분포 이동 조건 하에서 비대칭 유사도 메트릭이 대칭 메트릭을 능가할 수 있는가?
• RQ4 레이블 전파와 딥 특징 학습이 전도적 도메인 적응의 안정성과 정확도에 얼마나 기여하는가?
• RQ5 명시적인 타겟 도메인 분류 능력 최적화가 도메인 불변 특징 학습만으로는 달성할 수 없는 우수한 성능을 이끌 수 있는가?

주요 결과

• 제안된 방법은 MNIST → SVHN 및 SVHN → MNIST 도메인 적응 벤치마크에서 최신 기술 수준의 성능을 달성하며, 이전 방법들에 비해 큰 격차를 확보한다.
• Office 데이터셋에서, 이 방법은 기존 비지도 도메인 적응 기법들보다 물체 인식 정확도에서 뚜렷한 승리를 거두며, 다양한 시각적 도메인 간 강력한 일반화 능력을 입증한다.
• 제거 실험 결과, 레이블 전파와 딥 특징 학습이 성능 향상에 필수적임을 확인하였으며, 레이블 전파가 누락될 경우 학습이 불안정해지고 정확도가 떨어지는 것으로 나타났다.
• t-SNE 시각화 결과, 기존 방법들이 타겟 도메인 특징을 구조화하지 못하는 데 반해, 본 방법은 적응 후 타겟 도메인 특징이 클래스별로 잘 군집됨을 확인하였다.
• 학습된 비대칭 메트릭은 MNIST와 SVHN 간과 같은 큰 시각적 도메인 이동 조건에서도 소스 및 타겟 도메인 간 정확한 근접 이웃 예측을 제공한다.
• 기존 도메인 불변 접근 방식이 불변성을 확보하기 위해 분류 능력을 희생시키는 데 반해, 본 방법은 타겟 분류 성능 최적화를 직접적으로 고려함으로써 타겟 도메인 내 분류 능력 높은 특징을 학습한다.