[논문 리뷰] A Survey on Computational Propaganda Detection

Giovanni Da San Martino, Stefano Cresci외 4명|arXiv (Cornell University)|2020. 07. 15.

Misinformation and Its Impacts참고 문헌 14인용 수 6

한 줄 요약

이 종합 검토는 자연어 처리(NLP)와 네트워크 분석을 활용한 계산적 선전 탐지 기법의 최신 기법을 검토하며, 다학제적 협업의 필요성을 강조한다. 사회 미디어에서 조직적이고 목적 중심의 허위정보 캠페인을 탐지하는 데 있어 핵심 과제를 규명하고 향후 연구 방향을 제시한다.

ABSTRACT

Propaganda campaigns aim at influencing people's mindset with the purpose of advancing a specific agenda. They exploit the anonymity of the Internet, the micro-profiling ability of social networks, and the ease of automatically creating and managing coordinated networks of accounts, to reach millions of social network users with persuasive messages, specifically targeted to topics each individual user is sensitive to, and ultimately influencing the outcome on a targeted issue. In this survey, we review the state of the art on computational propaganda detection from the perspective of Natural Language Processing and Network Analysis, arguing about the need for combined efforts between these communities. We further discuss current challenges and future research directions.

연구 동기 및 목표

• 소셜 미디어에서의 계산적 선전 탐지 기술의 현재 상태를 분석하기 위해.
• 단지 NLP 또는 네트워크 분석에 의존하는 기존 접근 방식의 격차를 규명하기 위해.
• NLP와 네트워크 분석을 통합한 방법을 통해 탐지 성능을 향상시키기 위해.
• 조직적 선전 캠페인 탐지의 핵심 과제와 향후 연구 방향을 제시하기 위해.

제안 방법

• NLP와 네트워크 분석의 시각에서 계산적 선전 탐지 기법에 대한 체계적 검토.
• 계정 네트워크가 미세 타겟팅과 설득적 메시징을 어떻게 활용하는지 분석.
• 로봇처럼 행동하거나 메시지 조율을 하는 비정상적 행동을 식별하는 기법 평가.
• 감정어 및 프레임링을 포함한 선전 콘텐츠에서 사용되는 언어적 특징 검토.
• 네트워크 구조 분석과 텍스트 콘텐츠 분석을 통합하여 조직적 캠페인 탐지.
• 현재 탐지 시스템의 방법론적 한계 식별.

실험 결과

연구 질문

• RQ1 계산적 선전 캠페인은 소셜 미디어 플랫폼과 사용자 프로파일링을 어떻게 악용하는가?
• RQ2 현재의 NLP 전용 또는 네트워크 분석 전용 접근 방식의 한계는 무엇인가?
• RQ3 NLP와 네트워크 분석을 효과적으로 통합하여 탐지 정확도를 향상시킬 수 있는 방법은 무엇인가?
• RQ4 조직적 선전 운영 탐지의 핵심 기술적 및 윤리적 과제는 무엇인가?
• RQ5 evolving 선전 기법을 대비하기 위해 필요한 향후 연구 방향은 무엇인가?

주요 결과

• 계산적 선전은 소셜 미디어의 匿명성과 미세 타겟팅을 활용해 대규모로 공공의 여론에 영향을 미친다.
• 현재의 탐지 방법은 언어적 또는 네트워크 특성에만 의존할 경우 조직적 캠페인을 탐지하지 못하는 경우가 많다.
• NLP와 네트워크 분석을 통합한 접근 방식이 비정상적 행동과 조직적 메시징 탐지에 더 큰 잠재력을 보인다.
• 현대 선전의 복잡성은 NLP 및 네트워크 분석 연구자 간의 다학제적 협업을 필요로 한다.
• 진화하는 기법, 예를 들어 적응형 메시징 및 동적 네트워크 구조를 고려한 향후 탐지 시스템 개발이 필요하다.
• 감시와 개인정보 보호 문제와 관련된 윤리적 우려는 탐지 시스템 구현 시 여전히 주요 과제로 남아 있다.