[논문 리뷰] Detecting and Reasoning of Deleted Tweets before they are Posted

Hamdy Mubarak, Samir Abdaljalil외 2명|arXiv (Cornell University)|2023. 05. 05.

Misinformation and Its Impacts인용 수 9

한 줄 요약

이 논문은 삭제된 트윗과 비삭제 트윗의 대규모 아랍어 데이터셋을 구성하고, 미세한(disinformation) 라벨을 부착한 뒤 게시 전에 삭제와 그 이유를 예측하는 모델을 학습합니다.

ABSTRACT

Social media platforms empower us in several ways, from information dissemination to consumption. While these platforms are useful in promoting citizen journalism, public awareness etc., they have misuse potentials. Malicious users use them to disseminate hate-speech, offensive content, rumor etc. to gain social and political agendas or to harm individuals, entities and organizations. Often times, general users unconsciously share information without verifying it, or unintentionally post harmful messages. Some of such content often get deleted either by the platform due to the violation of terms and policies, or users themselves for different reasons, e.g., regrets. There is a wide range of studies in characterizing, understanding and predicting deleted content. However, studies which aims to identify the fine-grained reasons (e.g., posts are offensive, hate speech or no identifiable reason) behind deleted content, are limited. In this study we address this gap, by identifying deleted tweets, particularly within the Arabic context, and labeling them with a corresponding fine-grained disinformation category. We then develop models that can predict the potentiality of tweets getting deleted, as well as the potential reasons behind deletion. Such models can help in moderating social media posts before even posting.

연구 동기 및 목표

• 세밀한(disinformation) 범주를 갖춘 삭제 트윗과 비삭제 트윗의 수동으로 라벨링된 아랍어 데이터세트를 개발한다.
• 삭제 트윗이 혐오 발언, 모욕적 내용, 소문, 스팸 등의 콘텐츠 유형을 드러내는지, 그리고 이를 사전 차단에 활용할 수 있는지 조사한다.
• 삭제 동역학을 이해하기 위해 사용자 계정 상태 및 기타 메타데이터를 분석한다.
• 게시 전에 삭제와 그 이유를 예측하기 위해 고전적 모델과 변환기(transformer) 기반 모델을 학습하고 비교한다.

제안 방법

• 40K개의 트윗을 수집(삭제 20K, 비삭제 20K)했고, 그중 22K를 미세한(disinformation) 범주로 수동 라벨링했다.
• 아랍어 NLP 주석 표준에 따라 혐오 발언, 모욕적 내용, 소문, 스팸 등 세밀한 라벨과 함께 not-disinformative를 정의했다.
• 세 가지 분류 작업을 구축했다: (i) 삭제 vs 비삭제, (ii) 미세한(disinformation) vs 비미세한, (iii) 세밀한 미세(disinformation) 카테고리.
• 데이터 분할 70/10/20으로 고전 모델(RF, SVM)과 트랜스포머 모델(AraBERT, XLM-R)을 비교했다.
• 정확도, 정밀도, 재현율, F1으로 평가하고 모든 작업에서 결과를 보고했다.

실험 결과

연구 질문

• RQ1 RQ1: 트윗 삭제의 잠재적 이유는 무엇인가(예: 혐오 발언, 모욕적 언어).
• RQ2 RQ2: 삭제 트윗이 키워드 편향 없이 유해 콘텐츠를 수집하는 데 좋은 소스가 되는가.
• RQ3 RQ3: 디스인포메이션 콘텐츠를 게시하는 사용자에 대해 트위터는 어떠한 조치를 취하는가(정지, 삭제 등).
• RQ4 RQ4: 게시 전에 트윗의 잠재적 삭제 및 그 이유를 탐지할 수 있는가?

주요 결과

• 삭제된 트윗은 비삭제 트윗보다 더 많은 디스인포메이션을 포함한다(레이블링 샘플에서 20% 대 7%).
• 트위터는 디스인포메이션 콘텐츠를 게시하는 다수의 사용자에 대해 계정 정지 처리를 하며, 이러한 사용자 중 40%가 데이터셋 전체에서 정지되었다.
• 혐오 발언, 모욕적 언어, 소문, 스팸 등의 디스인포메이션 범주가 삭제 트윗에서 더 많이 나타난다.
• AraBERT와 XLM-R 모델은 각각의 작업에서 베이스라인보다 우수한 성능을 보이며, 세밀한 디스인포메이션에는 AraBERT가 최적, 디스인포메이션 대 비-디스인포메이션 탐지에는 XLM-R가 탁월하다.
• 제안된 게시물 삭제 후 탐지 파이프라인은 게시 전에 삭제 및 그 이유에 대해 사용자에게 경고할 수 있다.