[논문 리뷰] Domain Generalization via Model-Agnostic Learning of Semantic Features

Qi Dou, Daniel C. Castro외 2명|arXiv (Cornell University)|2019. 10. 29.

Domain Adaptation and Few-Shot Learning인용 수 428

한 줄 요약

MASF는 글로벌 클래스 정렬과 로컬 메트릭 기반 클러스터링으로 에피소드식 모델-무관 학습을 사용하여 unseen 도메인에서도 일반화되는 의미적 특징 공간을 학습하고, VLCS와 PACS에서 최첨단 결과를 달성하며 의료 영상 분할에서 개선을 보임.

ABSTRACT

Generalization capability to unseen domains is crucial for machine learning models when deploying to real-world conditions. We investigate the challenging problem of domain generalization, i.e., training a model on multi-domain source data such that it can directly generalize to target domains with unknown statistics. We adopt a model-agnostic learning paradigm with gradient-based meta-train and meta-test procedures to expose the optimization to domain shift. Further, we introduce two complementary losses which explicitly regularize the semantic structure of the feature space. Globally, we align a derived soft confusion matrix to preserve general knowledge about inter-class relationships. Locally, we promote domain-independent class-specific cohesion and separation of sample features with a metric-learning component. The effectiveness of our method is demonstrated with new state-of-the-art results on two common object recognition benchmarks. Our method also shows consistent improvement on a medical image segmentation task.

연구 동기 및 목표

• 테스트 도메인의 통계가 알려지지 않았고 학습 중에 타깃 데이터가 이용 가능하지 않은 상황에서 도메인 일반화를 촉진한다.
• 여러 소스 도메인에 걸친 도메인 시프트에 강인한 의미 있는 특징 표현을 학습한다.
• 특징 공간을 형성하기 위한 글로벌 및 로컬 규제항을 제안한다 — 클래스 간 관계의 글로벌 정렬과 로컬하고 도메인 독립적인 클래스 군집화.
• 에피소드 학습을 통한 모델-무관 메타러닝을 활용하여 보지 못한 도메인으로의 일반화를 유도한다.

제안 방법

• 도메인 시프트를 시뮬레이션하기 위해 소스 도메인을 meta-train과 meta-test로 분할하여 에피소드 학습을 채택한다.
• 대칭 KL 발산을 이용해 meta-train과 meta-test 도메인 간의 소프트 혼동 행렬을 일치시키는 글로벌 클래스 정렬 손실을 도입한다.
• 대조학습 또는 트리플렛 손실을 사용하여 도메인 독립적인 클래스 응집과 분리를 촉진하기 위해 메트릭 임베딩 네트워크를 통한 로컬 샘플 클러스터링 손실을 도입한다.
• 피처 추출기와 태스크 네트를 태스크 손실 plus 메타 손실로 업데이트한다; 임베딩 네트워크는 로컬 손실로 업데이트하여 클러스터링을 강제한다.
• 클래스별 평균 특징 벡터를 사용하여 각 클래스의 소프트 레이블을 형성하고 온도 제어 소프트맥스에 의해 소프트 혼동 행렬을 계산하여 크로스도메인 의미 정렬을 안내한다.
• 로컬 클러스터링을 위한 두 가지 구체적인 메트릭 학습 손실을 제공: 대조 손실 (d_phi)과 semi-hard 채굴이 포함된 트리플렛 손실로 효율적인 학습을 달성한다.

실험 결과

연구 질문

• RQ1 타깃 도메인 데이터가 학습 중에 이용 불가한 상태에서 모델을 여러 소스 도메인에서 학습시켜 보지 못한 도메인으로 일반화시키려면 어떻게 할 수 있을까?
• RQ2 의미 구조를 명시적으로 규제하는 것이 전통적 태스크 중심 손실을 넘어 도메인 일반화를 향상시킬 수 있을까?
• RQ3 글로벌 클래스 간 관계 정렬과 로컬 샘플 클러스터링을 결합하면 도메인 시프트 하에서 더 나은 일반화가 얻어질까?
• RQ4 모델-무관 에피소드 학습 프레임워크가 자연 이미지 인식 벤치마크와 의료 영상 분할 태스크 모두에서 효과적일까?

주요 결과

• MASF는 VLCS에서 평균 정확도 최첨단을 달성하며 타깃 도메인 전체에서 72.19에서 74.11로 향상시켰다.
• PACS에서 MASF는Baseline 대비 평균 정확도를 3.51 퍼센트 포인트 향상시키고 Sketch 타깃 도메인에서 현저한 이득을 보인다.
• 특성의 글로벌 클래스 정렬과 로컬 클러스터링이 성능에 기여함을 확인하는 소거 연구가 에피소드 학습과의 결합으로 최상의 결과를 낳는다.
• 딥 잔차 아키텍처(ResNet-18/50)도 MASF의 혜택을 받아 다양한 네트워크 백본에서 강건성을 보여준다.
• 의료 뇌 MRI 분할에서 MASF는 DeepAll에 비해 Dice 점수를 향상시키며, 특히 새로운 임상 사이트(Set-D)로의 일반화에서 더욱 두드러지고 실루엣 분석은 클래스 내 클러스터링이 더 촘촘해짐을 나타낸다.