[논문 리뷰] Collaborative Training of Balanced Random Forests for Open Set Domain Adaptation

Jongbin Ryu, Jiun Bae외 1명|arXiv (Cornell University)|2020. 02. 10.

Domain Adaptation and Few-Shot Learning참고 문헌 46인용 수 8

한 줄 요약

이 논문은 노이즈가 많거나 소규모, 또는 잘못 정렬된 데이터 하에서 개방 세트 도메인 적응 환경에서 강건성을 향상시키는 데 목적이 있는 균형 임의의 숲을 위한 공동 학습 알고리즘 CoBRF를 제안한다. 결정 트리의 각 노드에서 지지 벡터 기반 초평면을 이용해 균형 잡힌 분할을 강제하고, 적대적 학습을 통해 도메인 정보 이득을 최소화함으로써 과적합을 줄이고 일반화 성능을 향상시킨다. 이로 인해 Office-31, Office-Home, ImageCLEF-DA에서 레이블 노이즈가 최대 80%이고 학습 데이터가 10%인 도전적인 프로토콜에서도 최신 기술 수준(SOTA)의 성능을 달성한다.

ABSTRACT

In this paper, we introduce a collaborative training algorithm of balanced random forests with convolutional neural networks for domain adaptation tasks. In real scenarios, most domain adaptation algorithms face the challenges from noisy, insufficient training data and open set categorization. In such cases, conventional methods suffer from overfitting and fail to successfully transfer the knowledge of the source to the target domain. To address these issues, the following two techniques are proposed. First, we introduce the optimized decision tree construction method with convolutional neural networks, in which the data at each node are split into equal sizes while maximizing the information gain. It generates balanced decision trees on deep features because of the even-split constraint, which contributes to enhanced discrimination power and reduced overfitting problem. Second, to tackle the domain misalignment problem, we propose the domain alignment loss which penalizes uneven splits of the source and target domain data. By collaboratively optimizing the information gain of the labeled source data as well as the entropy of unlabeled target data distributions, the proposed CoBRF algorithm achieves significantly better performance than the state-of-the-art methods.

연구 동기 및 목표

• 학습 데이터가 노이즈가 많거나 크기가 작을 경우 도메인 적응에서 과적합을 해결하기 위해.
• 원천 도메인과 타겟 도메인 간에 알려지지 않은 클래스나 정렬이 어긋난 클래스가 존재하는 개방 세트 도메인 적응 환경에서의 일반화 성능 향상을 위해.
• 균형 잡힌 분할 제약 조건을 통해 더 균형 잡힌 결합 트리를 구성함으로써 임의의 숲의 분류 능력을 향상시키기 위해.
• 타겟 레이블에 의존하지 않고 원천 도메인과 타겟 도메인의 분포를 정렬하기 위해, 적대적 도메인 정보 이득 최소화를 활용하기 위해.

제안 방법

• 모든 노드에서 균형 잡힌 분할을 강제하면서 정보 이득을 최대화하는 균형 잡힌 결합 트리 구축 방법을 제안하여 트리의 표현력 향상과 과적합 감소를 도모한다.
• 이중 허위 레이블링을 사용한 선형 서포트 벡터 머신(SVM)을 활용해 분류 능력이 뛰어난 초평면을 찾은 후, 이를 변환하여 균형 잡힌 트리 구조를 확보한다.
• 원천 도메인과 타겟 도메인 데이터 간의 정보 이득을 최소화하는 도메인 정렬 손실을 도입하여, 타겟 도메인에서도 균형 잡힌 분할을 유도한다.
• 레이블이 있는 원천 데이터에 대한 클래스 정보 이득 최대화와 레이블이 없는 타겟 데이터에 대한 도메인 정보 이득 최소화를 함께 고려한 공동 최적화 프레임워크를 구성한다.
• 원천 도메인과 타겟 도메인 레이블 간 상호 정보를 최소화함으로써 도메인 정렬을 적대적 학습으로 간주하여 공통된 특징 분포를 촉진한다.
• 이중 단계 학습 프로세스를 적용한다: 첫 번째 단계에서는 레이블이 있는 원천 데이터를 사용해 균형 잡힌 트리를 구축하고, 두 번째 단계에서는 레이블이 없는 타겟 데이터를 활용해 공동 최적화를 통해 도메인 정렬을 강제한다.

실험 결과

연구 질문

• RQ1 결합 트리의 균형 잡힌 분할을 강제하면 소규모 또는 노이즈가 많은 학습 데이터 환경에서 일반화 성능 향상과 과적합 감소에 기여하는가?
• RQ2 타겟 레이블이 가용하지 않을 경우 제안된 도메인 정렬 손실이 도메인 이동 문제를 얼마나 효과적으로 완화하는가?
• RQ3 균형 임의의 숲의 공동 학습이 개방 세트 환경에서 표준 임의의 숲 및 최신 기술 수준(SOTA) 도메인 적응 방법보다 우수한 성능을 내는가?
• RQ4 극도로 낮은 데이터 가용성(예: 10% 학습 데이터)과 높은 레이블 노이즈(예: 80%) 조건에서 이 방법의 성능은 어떠한가?

주요 결과

• ResNet-50를 사용한 Office-31 데이터셋에서 40%의 레이블 노이즈 조건에서도 CoBRF는 DAN, JAN, CDAN+E를 포함한 모든 비교 방법 중 평균 정확도가 가장 높았다.
• 80%의 레이블 노이즈 조건에서도 CoBRF는 기준 모델 대비 가장 큰 성능 향상을 보이며 심각한 데이터 손상에 대한 강건성을 확인했다.
• 학습 데이터의 10%만을 사용할 경우에도 CoBRF는 Office-31, Office-Home, ImageCLEF-DA에서 강력한 성능 유지를 보였으며, 과적합이 발생하기 쉬운 환경에서 다른 방법들을 압도했다.
• AlexNet 기반의 OpenSet1 프로토콜에서 CoBRF는 평균 정확도 83.0%를 기록하여 이전 최신 기술 수준(SOTA) 방법([21])을 1.9%p 뛰어넘었다.
• ResNet-50 기반의 더 도전적인 OpenSet2 프로토콜에서 CoBRF는 평균 정확도 86.1%를 달성하여 다음으로 우수한 방법(CDA)을 6.0%p 초월했다.
• 전체 학습 샘플 수가 54개(표준 OpenSet2 대비 54.5% 적은 수)인 극도로 낮은 데이터 환경에서도 CoBRF*는 여전히 평균 정확도 84.3%를 기록하여 낮은 데이터 환경에서의 강건성을 입증했다.