[논문 리뷰] Progressive Graph Learning for Open-Set Domain Adaptation

Yadan Luo, Zijian Wang외 2명|arXiv (Cornell University)|2020. 06. 22.

Domain Adaptation and Few-Shot Learning인용 수 39

한 줄 요약

본 논문은 Episodic training, 그래프 신경망(GNN), 그리고 적대적 학습을 활용하여 미지의 타깃 클래스에 대응하고 조건적 시프트를 줄이는 엔드-투-엔드 오픈 세트 무감독 도메인 적응 방법인 Progressive Graph Learning(PGL)을 제안하며, 더 촘촘한 타깃 오차 상한을 달성한다.

ABSTRACT

Domain shift is a fundamental problem in visual recognition which typically arises when the source and target data follow different distributions. The existing domain adaptation approaches which tackle this problem work in the closed-set setting with the assumption that the source and the target data share exactly the same classes of objects. In this paper, we tackle a more realistic problem of open-set domain shift where the target data contains additional classes that are not present in the source data. More specifically, we introduce an end-to-end Progressive Graph Learning (PGL) framework where a graph neural network with episodic training is integrated to suppress underlying conditional shift and adversarial learning is adopted to close the gap between the source and target distributions. Compared to the existing open-set adaptation approaches, our approach guarantees to achieve a tighter upper bound of the target error. Extensive experiments on three standard open-set benchmarks evidence that our approach significantly outperforms the state-of-the-arts in open-set domain adaptation.

연구 동기 및 목표

• 소스에서 보지 못한 미지의 클래스가 타깃 데이터에 포함될 수 있는 오픈 세트 도메인 적응의 필요성을 동기화한다.
• 진행적 학습 체계 하에서 소스 위험, 도메인 차이, 그리고 오픈 세트 위험을 최소화하는 엔드-투-엔드 프레임워크를 개발한다.
• 샘플 수준과 매니폴드 수준의 조건적 시프트를 해결하기 위해 그래프 신경망과 에피소드 학습을 도입한다.
• 진행적 접근법으로 더 촘촘한 타깃 오차 경계가 도출된 이론적 경계 인사이트를 제공한다.

제안 방법

• 가설 공간을 공유(known) 공간과 미지의(unknown) 부분공간으로 분해하여 소스 데이터의 오분류를 줄인다.
• 저신뢰도 타깃 샘플을 점진적으로 의사 라벨링된 known와 unknown으로 변환하여 부정적 전이(negative transfer)를 완화하기 위해 진행적 학습을 채택한다.
• 에피소드 학습과 전이 설정을 사용하여 에피소드에서 소스 데이터를 의사 라벨링된 타깃 데이터로 대체함으로써 조건부 분포를 정렬한다.
• 백본 특징 위에 그래프 신경망을 구성하고, 같은 클래스의 소스 노드와 의사 라벨링된 타깃 노드를 연결해 클래스 특유의 매니폴드를 학습한다.
• 알려진 클래스에 대한 주변 분포 차이를 최소화하기 위해 적대적 도메인 판별기를 도입한다.
• 노드 분류 손실, 엣지 분류 손실, 그리고 적대적 손실의 균형을 맞추는 공동 목적 함수로 학습한다(지정된 계수 포함).
• M단계에 걸쳐 의사 라벨과 에피소드를 점진적으로 업데이트하며, 확장 인자 alpha와 개방도 매개변수 beta로 제어된다.

실험 결과

연구 질문

• RQ1 오픈 세트 도메인 적응을 이론적으로 어떻게 경계화하여 타깃 클래스의 미지수를 반영할 수 있는가?
• RQ2 진행적이고 그래프 기반 프레임워크가 기존 OUDA 방법들보다 조건적 시프트와 도메인 차이를 더 효과적으로 줄일 수 있는가?
• RQ3 에피소드형, 트랜스덕티브 GNN 기반 학습이 공유 클래스 표현을 개선하고 부정적 전이를 완화하는가?
• RQ4 의사 라벨링된 알려진 샘플과 미지의 샘플이 타깃 위험 및 전체 성능에 미치는 영향은 무엇인가?

주요 결과

• PGL은 Office-Home, Syn2Real-O, VisDA-17 벤치마크에서 최첨단 오픈 세트 도메인 적응 방법보다 일관되게 우수한 성능을 보인다.
• 진행적 의사 라벨링과 GNN 기반 매니폴리티 학습은 데이터셋 전반에 걸쳐 OS*(알려진 클래스 표준화 정확도)의 현저한 향상을 가져온다.
• 삭제된 경우(진행형 라벨링 제거, GNN 제거, 또는 혼합 학습 전략 제거) 성능이 저하됨으로써 각 구성 요소의 중요성이 확인된다.
• 개방성에 대한 높은 강건성과 손실 계수 및 확대 인자 alpha에 대한 우호적 민감도 특성을 보인다.
• 데이터셋 전반에 걸쳐 OS 및 OS* 지표에서 OSBP, STA, ATI-λ, MMD, DANN 등의 베이스라인 대비 상당한 개선을 달성한다.