[논문 리뷰] Complement Objective Training

Haoyun Chen, Pei-Hsin Wang외 6명|arXiv (Cornell University)|2019. 03. 04.

Adversarial Robustness in Machine Learning인용 수 15

한 줄 요약

이 논문은 주 목적(예: 교차 엔트로피)과 잘못된 클래스의 예측 확률을 중화시키는 보완 목적을 함께 최적화함으로써 딥러닝 모델의 성능을 햖थन하는 새로운 훈련 프레임워크인 보완 목적 훈련(COT)을 제안한다. 이를 통해 COT은 모델의 정확도와 강건성을 향상시키며, FGSM 화이트박스 공격 하에서 분류 오차를 최대 10% 감소시키고, 컴퓨터 비전 및 NLP 작업 전반에서 일관된 성능 향상을 보인다.

ABSTRACT

Learning with a primary objective, such as softmax cross entropy for classification and sequence generation, has been the norm for training deep neural networks for years. Although being a widely-adopted approach, using cross entropy as the primary objective exploits mostly the information from the ground-truth class for maximizing data likelihood, and largely ignores information from the complement (incorrect) classes. We argue that, in addition to the primary objective, training also using a complement objective that leverages information from the complement classes can be effective in improving model performance. This motivates us to study a new training paradigm that maximizes the likelihood of the groundtruth class while neutralizing the probabilities of the complement classes. We conduct extensive experiments on multiple tasks ranging from computer vision to natural language understanding. The experimental results confirm that, compared to the conventional training with just one primary objective, training also with the complement objective further improves the performance of the state-of-the-art models across all tasks. In addition to the accuracy improvement, we also show that models trained with both primary and complement objectives are more robust to single-step adversarial attacks.

연구 동기 및 목표

• 표준 훈련이 최적화 과정에서 잘못된(보완) 클래스의 정보를 거의 간과하는 한계를 해결하기 위해.
• 잘못된 클래스의 예측 확률을 명시적으로 중화시킴으로써 모델의 일반화 능력과 강건성을 향상시키기 위해.
• 보완 목적을 통합함으로써 표준 교차 엔트로피 훈련을 초월한 성능 향상을 달성할 수 있는지 조사하기 위해.
• FGSM과 같은 단계적 적대적 공격에 대한 COT 훈련 모델의 강건성을 평가하기 위해.
• 생성 모델 및 고밀도 예측 작업을 포함한 더 넓은 응용 분야에서 보완 목적의 잠재력을 탐색하기 위해.

제안 방법

• 잘못된 클래스의 확률을 중화시키기 위한 새로운 보완 목적인 보완 엔트로피를 제안하여, 주 목적에 영향을 주지 않으면서도 잘못된 클래스의 확률을 억제한다.
• 훈련 중 주 교차 엔트로피 손실과 보완 엔트로피 손실을 동시에 최소화하는 공동 최적화 프레임워크를 도입한다.
• 주 목적과 보완 목적의 기울기를 동시에 계산하고 역전파하는 기울기 기반 최적화를 사용한다.
• 주 목적의 성능이 손상되지 않도록 하면서도 보완 클래스가 적극적으로 억제되도록 균형 잡힌 손실 가중 전략을 적용한다.
• t-SNE를 사용해 모델 임베딩을 시각화하여, COT가 표현 공간에서 더 타이트하고 잘 분리된 클래스 클러스터를 생성함을 확인한다.
• 강건성 평가를 위해 FGSM 화이트박스 공격 및 전이 공격을 적용하였으며, 적대적 생성에 주 목적과 보완 목적의 기울기를 모두 활용한다.

실험 결과

연구 질문

• RQ1 잘못된 클래스의 확률을 중화시키는 보완 목적을 최적화함으로써 표준 교차 엔트로피 훈련을 초월한 정확도 향상이 가능할까?
• RQ2 COT가 학습된 표현에서 더 타이트하고 잘 분리된 클래스 클러스터를 만들어내어 일반화 능력 향상이 이루어지는가?
• RQ3 표준 모델과 비교해 COT로 훈련된 모델은 FGSM과 같은 단계적 적대적 공격에 더 강건한가?
• RQ4 보완 기울기의 포함 여부가 전이 기반 적대적 공격의 성공률에 어떤 영향을 미치는가?
• RQ5 COT 프레임워크는 객체 검출, 세그멘테이션 또는 생성 모델과 같은 다른 아키텍처와 작업으로 확장될 수 있는가?

주요 결과

• COT로 훈련된 모델은 컴퓨터 비전 및 자연어 이해 등 다양한 작업에서 뚜렷한 정확도 향상을 기록한다.
• CIFAR-10에서 COT는 FGSM 화이트박스 공격 하에서 분류 오차를 최대 9.51%p 감소시켰다(예: PreAct ResNet-18의 경우 65.60%에서 56.17%로).
• COT 모델은 전이 공격 하에서도 강건성이 향상되어 오차율을 최대 6.58%p 감소시켰다(예: ResNeXt-29의 경우 70.24%에서 61.55%로).
• t-SNE 시각화 결과 COT는 더 타이트하고 잘 분리된 클래스 클러스터를 생성함을 확인하여, 개선된 특징 표현과 일반화 능력을 나타낸다.
• 보완 목적은 주 목적 기반의 변형을 상쇄하는 기울기를 도입함으로써 적대적 공격에 대비하는 데 기여한다.
• COT는 ResNet-110, WideResNet-28-10, DenseNet-BC-121 등 다양한 아키텍처에서 일관되게 성능 향상을 보이며 광범위한 적용 가능성을 입증한다.