[논문 리뷰] Joint Geometrical and Statistical Alignment for Visual Domain Adaptation

Jing Zhang, Wanqing Li외 1명|arXiv (Cornell University)|2017. 05. 16.

Domain Adaptation and Few-Shot Learning참고 문헌 20인용 수 64

한 줄 요약

JGSA는 소스 도메인과 타깃 도메인 간의 분포 변동과 기하학적 변동을 함께 최소화하도록 두 개의 결합 투영을 학습하여 객체 인식, 숫자 인식, RGB-D 행동 인식 과제에서 감독 없는 시각 도메인 적응을 개선합니다.

ABSTRACT

This paper presents a novel unsupervised domain adaptation method for cross-domain visual recognition. We propose a unified framework that reduces the shift between domains both statistically and geometrically, referred to as Joint Geometrical and Statistical Alignment (JGSA). Specifically, we learn two coupled projections that project the source domain and target domain data into low dimensional subspaces where the geometrical shift and distribution shift are reduced simultaneously. The objective function can be solved efficiently in a closed form. Extensive experiments have verified that the proposed method significantly outperforms several state-of-the-art domain adaptation methods on a synthetic dataset and three different real world cross-domain visual recognition tasks.

연구 동기 및 목표

• 학습 및 테스트 분포가 서로 다른 교차 도메인 시각 인식에서 감독 없는 도메인 적응의 필요성과 동기를 제시한다.
• 도메인 간의 분포적(통계적) 변화와 기하학적(부분공간) 변화를 모두 줄이는 통합 프레임워크를 제안한다.
• 소스의 판별 정보를 보존하고 타깃 분산을 확장하기 위해 공유 특성과 도메인 특수 특성 모두를 활용한다.
• 폐쇄 형식 최적화 해법을 제공하고 비선형 이동에 대한 커널화 버전으로 확장한다.

제안 방법

• 데이터를 저차원 부분공간으로 매핑하기 위해 A(소스)와 B(타깃)라는 두 개의 결합 투영을 학습한다.
• 타깃 분산을 최대화한다: Tr(B^T S_t B) 최대화.
• 소스의 판별 정보를 보존한다: Tr(A^T S_b A) 최대화 및 Tr(A^T S_w A) 최소화.
• 분포 시차 최소화: 주변 분포와 조건부 분포를 포함하는 결합 MS(MMD 기반) 목적함수를 최소화한다(식 7–9).
• 부분공간 간 발산 최소화: ||A−B||_F 를 최소화하여 두 부분공간을 기하학적으로 일치시킨다.
• 타깃 데이터에 대한 반복적 의사레이블 보정을 통해 블록 행렬의 일반화 고유값 분해(Eq. 19)로 해결한다.
• 비선형 이동을 다루기 위한 Representer Theorem을 이용한 커널화 확장을 제공한다(Eq. 21).

실험 결과

연구 질문

• RQ1 감독 없는 도메인 적응이 통계적 분포 시차와 기하학적 부분공간 시차를 함께 해결함으로써 효과적으로 달성될 수 있는가?
• RQ2 두 도메인 특화 투영을 결합하는 것이 단일统합 부분공간이나 순수 데이터 중심 접근 방식보다 우수한가?
• RQ3 도메인 시차 하에서 객체 인식, 숫자 인식, RGB-D 행동 인식에서 JGSA의 성능은 어떻게 나타나는가?
• RQ4 커널화된(비선형) 버전의 JGSA가 복잡한 도메인 시차에 유용한가?

주요 결과

• JGSA는 합성 데이터와 세 가지 실제 교차 도메인 작업에서 여러 최첨단 도메인 적응 방법보다 우수한 성능을 보인다.
• 사적(선형) 버전과 커널화된(RBF) 버전의 JGSA가 객체 인식 벤치마크에서 강력한 성과를 달성한다.
• JGSA는 SA, SDA, TCA, JDA, TJM, SCA, OTGL, KEMA 등의 베이스라인에 걸쳐 일관되게 성능을 향상시킨다.
• 타깃 도메인에 대한 반복적 의사레이블 보정은 조건부 분포 시차를 추가로 줄이고 정렬을 개선하는 데 도움이 된다.
• 방법은 강력한 베이스라인에 비해 실행 시간이 양호한 편이며 통계적 및 기하학적 정합의 원리적 공동 최적화를 제공한다.