[논문 리뷰] Zero-Shot Domain Adaptation via Kernel Regression on the Grassmannian

Yongxin Yang, Timothy M. Hospedales|arXiv (Cornell University)|2015. 07. 28.

Domain Adaptation and Few-Shot Learning참고 문헌 24인용 수 12

한 줄 요약

이 논문은 타겟 데이터에 접근하지 않고도 도메인 기술자로부터 타겟 도메인 부분공간을 예측하기 위해 그라스만만다의에서 커널 회귀를 사용하여 연속적으로 파arametrized된 도메인을 위한 제로샷 도메인 적응(ZSDA)을 제안한다. 이 방법은 모든 타겟 도메인에서 평균 4.75%의 정확도 향상을 달성하여, 관측하지 않은 도메인으로의 효과적인 일반화를 입증한다.

ABSTRACT

Most visual recognition methods implicitly assume the data distribution remains unchanged from training to testing. However, in practice domain shift often exists, where real-world factors such as lighting and sensor type change between train and test, and classifiers do not generalise from source to target domains. It is impractical to train separate models for all possible situations because collecting and labelling the data is expensive. Domain adaptation algorithms aim to ameliorate domain shift, allowing a model trained on a source to perform well on a different target domain. However, even for the setting of unsupervised domain adaptation, where the target domain is unlabelled, collecting data for every possible target domain is still costly. In this paper, we propose a new domain adaptation method that has no need to access either data or labels of the target domain when it can be described by a parametrised vector and there exits several related source domains within the same parametric space. It greatly reduces the burden of data collection and annotation, and our experiments show some promising results.

연구 동기 및 목표

• 각 새로운 타겟 도메인에 대해 비용이 많이 드는 데이터 수집이 필요한 전통적 도메인 적응의 확장성 한계를 해결하기 위해.
• 연속적인 벡터(예: 카메라 각도, 일출 시간 등)로 파arametrized된 도메인을 위한 새로운 문제 설정—제로샷 도메인 적응(ZSDA)—을 제안하기 위해.
• 타겟 도메인 데이터나 레이블이 필요 없이, 도메인 메타데이터만을 사용하여 테스트 시점에 모델 캘리브레이션을 수행할 수 있도록 하기 위해.
• 관련된 소스 도메인들로부터의 부분공간을 기반으로, 관측하지 않은 타겟 도메인의 부분공간 구조를 예측하기 위한 다양체-값 회귀 프레임워크를 개발하기 위해.
• 그라스만만다에서 커널 회귀를 통한 부분공간 예측이 타겟 데이터를 관측하지 않더라도 효과적인 도메인 정렬을 가능하게 함을 입증하기 위해.

제안 방법

• 도메인 기술자(예: [각도, 시간])를 그라스만만다의의 부분공간으로 매핑함으로써, 도메인 이동 문제를 다각체-값 데이터 회귀 문제로 모델링하기 위해.
• 기본 소스 도메인의 부분공간과 기술자들을 바탕으로, RBF 커널을 사용한 커널 회귀를 통해 타겟 도메인의 부분공간을 예측하기 위해.
• 각 도메인의 데이터 분포를 주성분분석(PCA) 또는 유사 방법을 통해 저차원 부분공간으로 표현하고, 이를 그라스만만다의에 통합하기 위해.
• 소스 분류기와 예측된 타겟 부분공간 간의 도메인 적응을 위해 지오데식 플로우(Geodesic Flow, GFK) 알고리즘을 적용하기 위해.
• 도메인 기술자를 입력으로, 해당하는 부분공간을 출력으로 사용하여, 관측하지 않은 도메인에 대한 제로샷 예측을 가능하게 하기 위해 회귀 모델을 훈련하기 위해.
• 단일 레이블이 부여된 소스 도메인만을 사용하여 최종 분류를 수행하기 위해, 여러 개의 소스 도메인을 활용하여 회귀 함수를 학습하기 위해.

실험 결과

연구 질문

• RQ1 타겟 도메인의 데이터에 접근하지 않고도, 연속적인 도메인 기술자만을 사용하여 관측하지 않은 타겟 도메인의 부분공간을 예측할 수 있는가?
• RQ2 그라스만만다에서의 커널 회귀는 훈련 중에 관측하지 않은 도메인의 부분공간을 얼마나 잘 일반화하여 예측할 수 있는가?
• RQ3 예측된 부분공간은 타겟 레이블 없이도 효과적인 도메인 적응을 가능하게 하는가? 분류 정확도 향상에 기여하는가?
• RQ4 소스 도메인이 기술자 공간에서 타겟 도메인에 가까운 정도에 따라 성능가 변화하는가?
• RQ5 카메라 각도나 조명 등 다양한 도메인 요인에 대해, 특히 그것들이 연속적일 경우에도 이 방법은 일반화 가능한가?

주요 결과

• 제안된 ZSDA 방법은 타겟 도메인 전반에서 평균 4.75%의 정확도 향상을 달성하여, 도메인 적응 없을 경우 대비 성능 향상을 입증하였다.
• domain_5에서는 도메인 적응 없이 67.88%였던 평균 정확도가 ZSDA → GFK 적용 후 70.29%로 향상되어, 도메인 간 성능 저하를 50% 이상 감소시켰다.
• 원거리 도메인에서 성능 향상이 가장 두드러진다: 예를 들어, domain_9는 타겟 데이터 없이도 46.41%에서 50.76%로 4.35% 향상되었다.
• 모든 타겟 도메인에서 일관되게 성능 향상을 보였으며, 도메인의 근접도에 따라 1.5%에서 4.35%까지의 정확도 향상이 관찰되었다.
• 도메인 기술자 값의 변동성에 대해 강건하며, 기술자 공간에서 소스 도메인과 거리가 먼 타겟 도메인에서도 뛰어난 성능을 보였다.
• 메타데이터만을 사용하여 효과적인 도메인 적응을 가능하게 하여, 실세계 환경에서 실시간 모델 캘리브레이션의 실현 가능성을 입증하였다.