[논문 리뷰] Towards a Robust Deep Neural Network in Text Domain A Survey

Wenqi Wang, Lina Wang외 3명|arXiv (Cornell University)|2019. 02. 12.

Adversarial Robustness in Machine Learning참고 문헌 77인용 수 4

한 줄 요약

이 종합 검토는 자연어 처리(NLP) 분야의 적대적 공격 및 방어 기법에 대한 포괄적인 분석을 제공하며, 공격을 NLP 작업별로 분류하고, 테스트 및 검증을 통한 강건한 딥 네트워크(DNN) 훈련을 제안한다. 주요 과제를 규명하고 텍스트 기반 적대적 강건성 분야의 향후 연구 방향을 제시한다.

ABSTRACT

Deep neural networks (DNNs) have achieved remarkable success in various tasks (e.g., image classification, speech recognition, and natural language processing). However, researches have shown that DNN models are vulnerable to adversarial examples, which cause incorrect predictions by adding imperceptible perturbations into normal inputs. Studies on adversarial examples in image domain have been well investigated, but in texts the research is not enough, let alone a comprehensive survey in this field. In this paper, we aim at presenting a comprehensive understanding of adversarial attacks and corresponding mitigation strategies in texts. Specifically, we first give a taxonomy of adversarial attacks and defenses in texts from the perspective of different natural language processing (NLP) tasks, and then introduce how to build a robust DNN model via testing and verification. Finally, we discuss the existing challenges of adversarial attacks and defenses in texts and present the future research directions in this emerging field.

연구 동기 및 목표

• 텍스트 기반 딥 네트워크에서의 적대적 강건성에 대한 체계적인 이해가 점점 더 필요한 이유를 해결하기 위해.
• 텍스트 분류 및 시퀀스 레이블링과 같은 자연어 처리 작업에서의 적대적 공격를 식별하고 분류하기 위해.
• 기존의 방어 전략을 검토하고, 텍스트에서의 적대적 변형을 완화하는 데 그 효과를 평가하기 위해.
• 텍스트 영역에서 강건한 DNN 모델을 구축하기 위한 테스트 및 검증 기법을 탐색하기 위해.
• 현재의 적대적 강건성 연구에서의 주요 제약 조건과 열려 있는 과제를 부각하고, NLP 분야의 적대적 강건성 향후 연구 방향을 제안하기 위해.

제안 방법

• 텍스트 기반의 다양한 자연어 처리 작업을 기반으로 한 적대적 공격의 분류 체계를 제안하며, 시퀀스 수준 및 토큰 수준의 변형을 포함한다.
• 모델을 속이기 위해 입력 텍스트에 최소한의 눈에 띄지 않는 변화를 가하는 목적을 가진 공격를 목적에 따라 분류한다.
• 적대적 훈련, 입력 정제, 모델 정규화 기법 등을 포함한 방어 메커니즘을 검토한다.
• 적대적 조건 하에서 모델의 강건성을 평가하기 위한 테스트 및 검증 프레임워크를 도입한다.
• 다양한 공격 및 방어 전략 하에서 모델 정확도와 강건성 간의 상충 관계를 분석한다.
• 텍스트 DNN의 강건성에 대한 체계적인 평가 프로토콜의 중요성을 강조한다.

실험 결과

연구 질문

• RQ1 텍스트 도메인에서의 적대적 공격는 다양한 NLP 작업 간 체계적으로 어떻게 분류될 수 있는가?
• RQ2 텍스트 분류 및 시퀀스 모델링 분야에서 딥 네트워크의 강건성을 향상시키기 위해 가장 효과적인 방어 전략은 무엇인가?
• RQ3 테스트 및 검증 기법은 텍스트에서의 적대적 예제에 대한 DNN의 강건성을 어느 정도 보장할 수 있는가?
• RQ4 현재 NLP 분야의 적대적 강건성 연구에서의 주요 제약 조건과 열려 있는 과제는 무엇인가?
• RQ5 텍스트 기반 딥 러닝 모델의 강건성 향상에 있어 가장 유망한 향후 연구 방향은 무엇인가?

주요 결과

• 이미지와 비교해 텍스트에서의 적대적 공격는 일반적으로 더 미묘하며, 모델을 오도하기 위해 단어 교체나 미세한 문법적 변화에 의존한다.
• 적대적 훈련과 같은 방어 기법은 강건성을 향상시키지만 표준 정확도를 감소시킬 수 있어, 강건성과 정확도 간의 상충 관계를 보여준다.
• 테스트 및 검증 방법은 모델의 취약점을 식별하는 데 필수적이지만, 텍스트 도메인에서는 아직 탐색이 부족한 분야이다.
• 표준화된 벤치마크와 평가 프로토콜의 부족은 방어 방법 간 비교를 어렵게 하고 있다.
• 텍스트 DNN의 강건성는 여전히 신규로 발전 중인 분야이며, 공격의 전이성과 일반화에 대한 이해의 격차가 크다.
• 향후 연구는 확장 가능한 검증, 해석 가능한 방어, 분포 변화에 대한 강건성에 초점을 맞춰야 한다.