[논문 리뷰] Domain Adaptation with Adversarial Training on Penultimate Activations

Tao Sun, Cheng Lu외 1명|arXiv (Cornell University)|2022. 08. 26.

Domain Adaptation and Few-Shot Learning인용 수 4

한 줄 요약

이 논문은 비지도 도메인 적응(UDA)을 위해 최종 분류층에 연결되는 특징(펜알티메이트 활성화)에 대해 적대적 훈련을 제안하며, 입력 이미지나 중간 특징에 대해 적대적 훈련을 적용하는 것보다 타겟 데이터에 대한 모델의 신뢰도를 더 효과적으로 향상시킨다. 이 방법은 표준 및 소스 데이터 없음 UDA 벤치마크에서 최신 기술(SOTA) 성능을 달성하며, 활성화 정규화와 상위-k 레이블 기반의 변형 근사화를 통해 정밀도와 효율성이 향상됨을 실험적으로 입증한다.

ABSTRACT

Enhancing model prediction confidence on target data is an important objective in Unsupervised Domain Adaptation (UDA). In this paper, we explore adversarial training on penultimate activations, i.e., input features of the final linear classification layer. We show that this strategy is more efficient and better correlated with the objective of boosting prediction confidence than adversarial training on input images or intermediate features, as used in previous works. Furthermore, with activation normalization commonly used in domain adaptation to reduce domain gap, we derive two variants and systematically analyze the effects of normalization on our adversarial training. This is illustrated both in theory and through empirical analysis on real adaptation tasks. Extensive experiments are conducted on popular UDA benchmarks under both standard setting and source-data free setting. The results validate that our method achieves the best scores against previous arts. Code is available at https://github.com/tsun/APA.

연구 동기 및 목표

• 비지도 도메인 적응(UDA)에서 레이블이 없는 타겟 도메인 데이터에 대한 모델 예측 신뢰도를 향상시키기 위해.
• 기존의 입력 이미지나 중간 특징에 대해 적용하는 적대적 훈련 방법이 효율성이 떨어지고, 예측 신뢰도 향상 목표와의 상관관계가 낮다는 문제를 해결하기 위해.
• 펜알티메이트 활성화에 대해 적대적 훈련을 적용하는 것이 UDA에서 신뢰도 향상에 더 직접적이고 효과적인 전략이 될 수 있음을 탐색하기 위해.
• 활성화 정규화가 펜알티메이트 특징에 대한 적대적 훈련 성능에 미치는 영향을 분석하고, 두 가지 정규화된 변형을 유도하기 위해.
• 광범위한 실험을 통해 표준 및 소스 데이터 없음 UDA 환경에서 본 방법의 우수성을 검증하기 위해.

제안 방법

• 최종 선형 분류기 이전의 특징(펜알티메이트 활성화)에 직접 적대적 훈련을 적용하며, 입력 이미지나 중간 특징에 적용하는 것이 아니라.
• 기존 및 변형된 펜알티메이트 활성화에 대한 모델 예측 간의 산란도를 최대화하는 적대적 손실을 정의하며, 교차 엔트로피 기반 산란도를 사용한다.
• 두 가지 변형을 도출한다: APA(비정규화된 활성화에 대한 적대적 변형)와 APA^n(정규화된 활성화에 대한 적대적 변형)으로, 정규화는 ℓ₂ 노름을 통해 적용된다.
• 변형은 펜알티메이트 특징에 대해 투영된 경사상승법을 통해 최적화되며, 기울기는 선형 분류기만을 통해 계산되어 계산 비용을 감소시킨다.
• 상위-k 의사 레이블 기반의 근사화를 통합하여, 변형 계산에 상위-k개의 가장 확신 있는 클래스만 사용함으로써 효율성과 모델 신뢰도와의 일치도를 향상시킨다.
• 이론적 및 실증적 분석을 통해, 펜알티메이트 특징에 대한 변형이 더 단순한 최적화와 더 나은 신뢰도 목표 일치도를 바탕으로 적대적 손실을 유지하면서도 높은 정확도를 제공함을 입증한다.

실험 결과

연구 질문

• RQ1 펜알티메이트 활성화에 대해 적대적 훈련을 적용하는 것이 입력 이미지나 중간 특징에 적용하는 것보다 UDA에서 예측 신뢰도 향상에 더 효과적인가?
• RQ2 활성화 정규화는 펜알티메이트 특징에 대한 적대적 훈련의 성능와 기울기 동역학에 어떤 영향을 미치는가?
• RQ3 상위-k 의사 레이블 기반의 변형 근사화가 전체 적대적 훈련과 비교해 유사한 성능을 달성하면서도 계산 비용을 줄일 수 있는가?
• RQ4 실제 UDA 작업에서, 적대적 변형, 활성화 기울기, 그리고 모델 업데이트 후 실제 활성화 변화 간의 관계는 어떠한가?
• RQ5 제안된 방법이 표준 및 소스 데이터 없음 UDA 환경 모두에서 기존의 최신 기술(SOTA) 방법을 초월하는가?

주요 결과

• 제안된 APA 방법은 표준 UDA 벤치마크에서 최신 기술(SOTA) 정확도를 달성하며, FixMatch 및 SENTRY와 같은 기존 방법들을 능가한다.
• Office-Home 데이터셋에서 APA는 소스 데이터 없음 환경에서 83.88%의 상위-1 정확도를 기록하여, 다음으로 우수한 방법보다 0.34%p 높은 성능을 보였다.
• 정규화된 변형인 APA^n은 Office-Home에서 83.88%의 정확도를 기록하여, 정규화가 성능 향상과 안정성 향상에 기여함을 입증했다.
• 상위-k 레이블 기반의 변형 근사화는 전체 APA와 유사한 성능을 기록했으며, k=5일 때 Office-Home에서 83.54%의 정확도를 달성하여 높은 신뢰도 클래스에 집중하는 것이 충분함을 시사했다.
• 절단 실험을 통해, 펜알티메이트 특징에 대해 적대적 훈련을 적용할 경우 입력 또는 특징 수준의 적대적 훈련보다 더 높은 정확도와 더 나은 신뢰도 목표와의 상관관계를 확보함을 확인했다.
• 전체 및 상위-k 근사된 변형 간余弦 유사도는 항상 높았으며(k≥3일 때 0.8 초과), 이는 근사화의 효과성을 검증했다.