[논문 리뷰] Unifying Adversarial Training Algorithms with Flexible Deep Data Gradient Regularization

Alexander G. Ororbia, C. Lee Giles외 1명|arXiv (Cornell University)|2016. 01. 26.

Adversarial Robustness in Machine Learning참고 문헌 11인용 수 17

한 줄 요약

이 논문은 유연한 L1/L2 페널티를 사용하여 딥 네ural 네트워크의 기울기를 정규화하는 통합 프레임워크인 DataGrad를 소개한다. 일반화된 정규화된 목표 함수를 최적화함으로써 DataGrad는 이전의 적대적 훈련 방법들을 포괄하며, 청소하고 적대적인 데이터 모두에서 최신 기술 수준의 강건성을 달성한다. 특히 다중 작업 학습과 조합할 경우, 고전적인 L1/L2 및 다중 작업 정규화 방법보다 뛰어난 성능을 발휘한다.

ABSTRACT

Many previous proposals for adversarial training of deep neural nets have included di- rectly modifying the gradient, training on a mix of original and adversarial examples, using contractive penalties, and approximately optimizing constrained adversarial ob- jective functions. In this paper, we show these proposals are actually all instances of optimizing a general, regularized objective we call DataGrad. Our proposed DataGrad framework, which can be viewed as a deep extension of the layerwise contractive au- toencoder penalty, cleanly simplifies prior work and easily allows extensions such as adversarial training with multi-task cues. In our experiments, we find that the deep gra- dient regularization of DataGrad (which also has L1 and L2 flavors of regularization) outperforms alternative forms of regularization, including classical L1, L2, and multi- task, both on the original dataset as well as on adversarial sets. Furthermore, we find that combining multi-task optimization with DataGrad adversarial training results in the most robust performance.

연구 동기 및 목표

• 다양한 적대적 훈련 알고리즘을 하나의 원리적인 프레임워크로 통합하는 것.
• 적대적 편향에 대한 강건한 딥 네ural 네트워크를 훈련하는 데 도전하는 것.
• 딥 기울기 정규화를 최적화하기 위한 효율적이고 백프로파게이션 호환 방법을 제공하는 것.
• 딥 기울기 정규화가 표준 L1/L2 및 다중 작업 접근 방식을 초월해 일반화 및 강건성을 향상시킨다는 것을 입증하는 것.

제안 방법

• 주 손실과 입력 데이터에 대한 손실의 깊은 기울기의 정규화자에 적용된 가중치 합으로 정의된 일반 정규화 목표 함수인 DataGrad를 제안한다.
• 백프로파게이션을 사용하여 네트워크 가중치에 대한 정규화된 목표 함수의 기울기를 계산함으로써 엔드 투 엔드 훈련을 가능하게 한다.
• 입력 데이터에 대한 손실의 깊은 기울기에 대해 L1 및 L2 노름을 정규화자로 사용하여 민감하고 강건한 최적화를 가능하게 한다.
• 주 작업 및 보조 작업 기울기에 정규화자를 적용함으로써 다중 작업 학습으로 프레임워크를 확장한다.
• 이전 연구에서 사용된 근사치를 피하는 결정론적이고 미분 가능한 알고리즘을 유도하여 깊은 기울기 페널티로 훈련하는 데 적용한다.
• 기울기 기반 편향을 통해 적대적 예제를 생성하고, 이러한 편향에 대해 강건한 모델을 훈련시키는 데 프레임워크를 적용한다.

실험 결과

연구 질문

• RQ1 기울기 정규화를 바탕으로 다양한 적대적 훈련 접근 방식을 통합할 수 있는 프레임워크를 개발할 수 있는가?
• RQ2 청소 및 적대적 데이터에서의 강건성 측면에서 딥 기울기 정규화는 고전적인 L1/L2 및 다중 작업 정규화와 어떻게 비교되는가?
• RQ3 다중 작업 학습과 딥 기울기 정규화를 조합했을 때 적대적 훈련에 어떤 영향을 미치는가?
• RQ4 제안된 DataGrad 프레임워크는 근사치 없이 표준 백프로파게이션을 사용해 효율적으로 최적화될 수 있는가?
• RQ5 유연한 기울기 정규화의 사용이 딥 네ural 네트워크의 일반화 및 강건성을 향상시키는가?

주요 결과

• L2 정규화를 사용한 DataGrad(DGL2)는 고전적인 L2 및 L1 정규화를 초월하여 강력한 적대적 노이즈 하에서 청소된 MNIST 데이터에서 98.83%의 테스트 정확도를 달성한다.
• λ=0.1 및 φ=0.1일 때 다중 작업 DataGrad-L1 버전(MT-DGL1)은 청소된 데이터에서 99.03%의 정확도와 적대적 데이터에서 98.12%의 정확도를 기록하며, 표준 다중 작업 학습을 크게 능가한다.
• 다중 작업 학습과 DataGrad 정규화를 조합하면 가장 강건한 성능을 보이며, φ=0.1 노이즈 하에서 MT-DGL1은 적대적 예제에서 98.90%의 정확도를 달성한다.
• λ=0.01 및 φ=0.1일 때 DataGrad-L2는 φ=0.05 노이즈 하에서 적대적 데이터에서 97.66%의 정확도를 기록하며, 모든 다른 방법보다 강건성이 뛰어나다.
• 이전의 접근 방식, 예를 들어 Miyato 등과 Huang 등의 연구를 일반화하여, 이들은 모두 통합된 DataGrad 목표 함수의 특수한 경우임을 보여준다.
• 제거 분석을 통해 깊은 기울기 정규화가 고강도 적대적 공격 하에서도 표준 L1/L2 및 다중 작업 정규화보다 더 효과적임을 확인한다.