[논문 리뷰] Adversarial Attacks and Defenses for Social Network Text Processing Applications: Techniques, Challenges and Future Research Directions

Izzat Alsmadi, Kashif Ahmad외 5명|arXiv (Cornell University)|2021. 10. 26.

Hate Speech and Cyberbullying Detection인용 수 13

한 줄 요약

이 논문은 사회적 미디어 텍스트 처리 분야에서의 적대적 공격 및 방어에 대한 종합적인 설문 조사로, 루머 탐지, 풍자 탐지, 클릭베이트/스팸 식별, 혐오 발언 탐지, 오락성 정보 탐지, 감성 분석의 여섯 가지 핵심 NLP 응용 분야에 중점을 두고 있다. 공격 기법, 방어 전략을 검토하고, 모델의 강건성, 그래프 신경망에서의 프라이버시 유출, 검열과 자유언론의 갈등과 같은 핵심 과제를 밝혀내며, 사회적 미디어에서 안전하고 신뢰할 수 있는 NLP 시스템을 위한 향후 연구 방향을 제시한다.

ABSTRACT

The growing use of social media has led to the development of several Machine Learning (ML) and Natural Language Processing(NLP) tools to process the unprecedented amount of social media content to make actionable decisions. However, these MLand NLP algorithms have been widely shown to be vulnerable to adversarial attacks. These vulnerabilities allow adversaries to launch a diversified set of adversarial attacks on these algorithms in different applications of social media text processing. In this paper, we provide a comprehensive review of the main approaches for adversarial attacks and defenses in the context of social media applications with a particular focus on key challenges and future research directions. In detail, we cover literature on six key applications, namely (i) rumors detection, (ii) satires detection, (iii) clickbait & spams identification, (iv) hate speech detection, (v)misinformation detection, and (vi) sentiment analysis. We then highlight the concurrent and anticipated future research questions and provide recommendations and directions for future work.

연구 동기 및 목표

• 사회적 미디어 응용 분야에서 NLP 모델의 적대적 공격에 대한 취약성을 분석하기 위해.
• 텍스트 기반 사회적 미디어 응용 분야에서 적대적 예제를 생성하고 이를 방어하기 위한 최신 기법을 검토하기 위해.
• 모델의 강건성, 그래프 신경망에서의 프라이버시 유출, 자유언론과 콘텐츠 모더레이션의 균형과 같은 핵심 과제를 특정하기 위해.
• 적대적 NLP 연구에서 표준화된 벤치마크 데이터셋과 품질 측정 기준의 부족을 부각하기 위해.
• 온라인 사회적 네트워크에서 NLP 시스템의 보안성, 프라이버시, 신뢰성 향상을 위한 향후 연구 방향을 제안하기 위해.

제안 방법

• 여섯 가지 주요 사회적 미디어 NLP 응용 분야에서의 적대적 공격 및 방어에 대한 체계적 문헌 리뷰.
• 어휘 교체, 토큰 재배열, 그래프 구조 조작을 포함한 텍스트 수준 및 그래프 수준의 변형으로 공격 방법을 분류.
• 적대적 훈련, 입력 정제, 강건한 모델 아키텍처와 같은 방어 메커니즘 분석.
• 사용자 특성 상관관계 및 링크 추론를 통한 그래프 신경망(GCNs)의 프라이버시 유출 검토.
• 기존의 벤치마크 및 측정 기준 평가하여, 강건성과 공정성을 측정하는 데서의 한계를 강조.
• 차별적 프라이버시 통합 및 안전한 GCN 아키텍처를 통한 데이터 유출 완화를 위한 향후 연구 방향 제안.

실험 결과

연구 질문

• RQ1 사회적 미디어 텍스트 처리 응용 분야에서 NLP 모델을 대상으로 하는 주요 적대적 공격 기법은 무엇인가요?
• RQ2 적대적 공격는 혐오 발언 탐지 및 루머 탐지와 같은 핵심 사회적 미디어 NLP 작업의 성능과 신뢰성에 어떤 영향을 미치나요?
• RQ3 특히 프라이버시 유출과 모델의 강건성 측면에서, 사회적 미디어에서 적대적 공격에 대응하는 데 있어 주요 과제는 무엇인가요?
• RQ4 왜 사회적 미디어의 적대적 NLP 연구에서 표준화된 벤치마크 데이터셋과 평가 지표가 부족한가요?
• RQ5 온라인 사회적 네트워크에서 NLP 시스템의 보안성, 프라이버시, 공정성을 향상시키기 위한 향후 연구 방향은 무엇인가요?

주요 결과

• 적대적 공격는 혐오 발언 탐지 및 루머 탐지 시스템을 포함한 사회적 미디어 응용 분야의 NLP 모델 성능을 심각하게 떨어뜨린다.
• 사회적 미디어의 문장적 노이즈와 비정형 콘텐츠는 적대적 공격의 효과를 더 높이고 방어를 더 어렵게 만든다.
• 그래프 신경망(GCNs)은 사용자 특성 간 상관관계로 인해 공개 데이터에서 개인적 사용자 관계를 유추할 수 있어 프라이버시 유출에 취약하다.
• 현재의 방어 메커니즘은 다양한 공격 유형에 일반화하기 어려우며, 강건한 평가 프레임워크를 갖추지 못해 있다.
• 사회적 미디어 NLP에서 적대적 강건성을 평가하기 위해 표준화된 벤치마크와 품질 측정 기준이 절실하게 필요하다.
• 향후 연구는 프라이버시 유출을 완화하면서도 모델의 유용성을 유지하기 위해 차별적 프라이버시 및 안전한 GCN 아키텍처를 우선적으로 고려해야 한다.