[논문 리뷰] Mind the Gap: Subspace based Hierarchical Domain Adaptation

Anant Raj, Vinay P. Namboodiri외 1명|arXiv (Cornell University)|2015. 01. 16.

Domain Adaptation and Few-Shot Learning참고 문헌 18인용 수 4

한 줄 요약

이 논문은 전체 소스 및 타겟 도메인 간이 아닌 의미적 카테고리 내에서 하위공간을 별도로 정렬함으로써 성능을 향상시키는 계층적 하위공간 기반 도메인 적응 방법을 제안한다. 의미적 계층을 활용해 부모 및 자식 클래스에 대해 별도의 하위공간을 학습함으로써, Caltech-256 및 Bing-Caltech 데이터셋에서 비계층적 기준선 대비 일관된 정확도 향상을 달성한다.

ABSTRACT

Domain adaptation techniques aim at adapting a classifier learnt on a source domain to work on the target domain. Exploiting the subspaces spanned by features of the source and target domains respectively is one approach that has been investigated towards solving this problem. These techniques normally assume the existence of a single subspace for the entire source / target domain. In this work, we consider the hierarchical organization of the data and consider multiple subspaces for the source and target domain based on the hierarchy. We evaluate different subspace based domain adaptation techniques under this setting and observe that using different subspaces based on the hierarchy yields consistent improvement over a non-hierarchical baseline

연구 동기 및 목표

• 의미적 카테고리의 계층적 조직을 통해 하위공간 기반 도메인 적응의 성능을 향상시켜 시각 분류에서의 도메인 이동 문제를 해결하기 위해.
• 계층을 통해 카테고리 간 의미적 유사성을 모델링할 경우 도메인 적응 성능 향상이 이루어지는지 조사하기 위해.
• 먼저 부모 수준에서, 그 다음 자식 카테고리 내에서 하위공간을 단계적으로 정렬하는 전략을 개발하기 위해.
• 실제 도메인에 알려진 의미적 계층이 존재하는 데이터셋에서 계층적 하위공간 정렬의 효과를 평가하기 위해.
• 명시적인 계층 레이블이 없는 데이터셋에도 일반화 가능함을 보여주기 위해 의미적으로 유사한 클래스를 군집화하는 비지도 클러스터링을 가능하게 하기 위해.

제안 방법

• 카테고리의 계층적 구조를 구성하여 의미적으로 유사한 클래스를 부모 노드로 묶고, 그 하위 카테고리를 자식 노드로 분류한다.
• 소스 및 타겟 데이터에 대해 주성분 분석(PCA)을 사용하여 각 부모 카테고리와 그 자식들에 대해 하위공간을 독립적으로 학습함으로써 도메인에 특화된 다수의 하위공간을 생성한다.
• 각 계층 수준에서, 소스 하위공간을 타겟 하위공간으로 매핑하기 위해 Subspace Alignment (SA) 또는 Geodesic Flow Kernel (GFK)를 통해 변환 행렬을 학습한다.
• 계층적 접근은 단계적으로 도메인 적응을 적용한다: 먼저 루트 수준(모든 데이터), 그 다음 부모 수준, 마지막으로 자식 카테고리 내에서 수행한다.
• 하위공간 간 유사도는 하위공간 기저 행렬의 내적의 트레이스를 사용하여 측정하여 정렬 품질을 검증한다.
• 하위공간 투영된 특징을 사용하여 K-NN 분류기를 적용하며, 안정성을 확보하기 위해 이전 절차에 따라 하위공간의 랭크를 53으로 설정한다.

실험 결과

연구 질문

• RQ1 비계층적 접근과 비교해 계층적 하위공간 정렬이 도메인 적응 성능을 향상시키는가?
• RQ2 부모 및 자식 카테고리별로 하위공간을 별도로 학습하는 것과 전역적으로 학습하는 것의 도메인 적응 성능는 어떻게 다를까?
• RQ3 소스 및 타겟 도메인에서 의미적으로 유사한 카테고리의 하위공간은 얼마나 잘 정렬되는가?
• RQ4 명시적인 계층 레이블이 없는 데이터셋에서도 의미적으로 유사한 클래스를 군집화함으로써 제안된 방법이 일반화 가능한가?
• RQ5 다양한 군집 수준에서 계층적 구조는 소스 및 타겟 하위공간 간 유사성에 어떤 영향을 미치는가?

주요 결과

• 계층적 하위공간 정렬 방법은 Caltech-256에서 Bing-Caltech로의 도메인 적응 작업에서 40.78%의 정확도를 달성하였으며, 비계층적 기준선(39.24%)보다 뛰어나다.
• 역방향(Bing-Caltech에서 Caltech-256로)에서는 계층적 방법이 48.36%의 정확도를 기록하여 비계층적 기준선(44.12%)을 초월하였다.
• 표 2의 유사도 행렬은 같은 부모 카테고리(Avian)의 소스 및 타겟 하위공간 간 최고의 유사도(3.74)를 보이며 의미 그룹 내 정렬의 효과를 확인한다.
• 비대칭 요소의 유사도는 상당히 낮다(예: Avian 소스 및 Terrestrial 타겟 간 0.18), 이는 유사하지 않은 카테고리의 하위공간은 여전히 명확히 분리되어 있음을 시사한다.
• 루트 수준의 하위공간 유사도(3.96)는 높지만, 부모 수준의 유사도보다 낮다. 이는 전역 정렬이 카테고리별 정렬만큼 효과적이지 않음을 시사한다.
• 이 방법은 도메인 이동의 양방향에서 일관되게 성능 향상을 보이며, 강건성과 일반화 가능성을 입증한다.