[논문 리뷰] Cyberbullying Detection: Exploring Datasets, Technologies, and Approaches on Social Media Platforms

Adamu Gaston Philipo, Doreen Sebastian Sarwatt외 3명|arXiv (Cornell University)|2024. 05. 22.

Hate Speech and Cyberbullying Detection인용 수 4

한 줄 요약

이 논문은 소셜 미디어에서 사이버불링 탐지에 대한 종합적인 체계적 리뷰를 제시하며, 데이터셋, 기술 및 방법론을 분석한다. 주요 과제와 현재 연구의 격차를 규명하고, 자연어 처리와 기계학습을 활용한 데이터 기반의 다중모달 접근법을 제안하여 탐지 정확도와 확장성을 향상시키며, 향후 연구에 실질적인 권고안을 제공한다.

ABSTRACT

Cyberbullying has been a significant challenge in the digital era world, given the huge number of people, especially adolescents, who use social media platforms to communicate and share information. Some individuals exploit these platforms to embarrass others through direct messages, electronic mail, speech, and public posts. This behavior has direct psychological and physical impacts on victims of bullying. While several studies have been conducted in this field and various solutions proposed to detect, prevent, and monitor cyberbullying instances on social media platforms, the problem continues. Therefore, it is necessary to conduct intensive studies and provide effective solutions to address the situation. These solutions should be based on detection, prevention, and prediction criteria methods. This paper presents a comprehensive systematic review of studies conducted on cyberbullying detection. It explores existing studies, proposed solutions, identified gaps, datasets, technologies, approaches, challenges, and recommendations, and then proposes effective solutions to address research gaps in future studies.

연구 동기 및 목표

• 소셜 미디어 플랫폼 전반에 걸친 사이버불링 탐지에 관한 기존 연구를 체계적으로 검토하는 것.
• 현재 데이터셋, 기술 및 탐지 방법론에서의 핵심 격차를 규명하는 것.
• 정확도, 확장성 및 실제 적용 가능성 측면에서 기존 접근법의 효과성을 평가하는 것.
• 향후 연구 및 시스템 개발을 위한 근거 기반 권고안을 제안하는 것.
• 향상된 탐지 성능을 위한 신기술 및 다중모달 접근법에 대한 체계적인 개요를 제공하는 것.

제안 방법

• 2010년에서 2024년 사이에 ACM, IEEE, arXiv에서 출판된 동료심사 논문을 대상으로 체계적 문헌 리뷰를 수행하였다.
• 사용된 데이터셋, 탐지 기법, 평가 지표를 기준으로 120건 이상의 논문을 분류 및 분석하였다.
• 대표성, 레이블 품질, 언어적 다양성 측면에서 데이터셋을 평가하였으며, 트위터, 레딧, 인스타그램 기반 코퍼스를 포함하였다.
• 텍스트 기반 탐지를 위해 BERT, SVM, CNN-LSTM 하이브리드 등 기계학습 및 딥러닝 모델을 조사하였다.
• 텍스트, 이미지, 사용자 상호작용 특징을 통합한 다중모달 접근법의 효과를 평가하였다.
• 발견된 결과를 종합하여 설명 가능성, 공정성, 실시간 처리를 중시하는 향후 탐지 시스템의 프레임워크를 제안하였다.

실험 결과

연구 질문

• RQ1 사이버불링 탐지 연구에서 가장 널리 사용되는 데이터셋은 무엇이며, 편향과 대표성 측면에서 어떤 한계를 지니는가?
• RQ2 다양한 소셜 미디어 플랫폼에서 서로 다른 자연어 처리 및 기계학습 모델은 사이버불링 탐지에서 어떻게 비교되는가?
• RQ3 실시간, 확장성 있고 공정한 사이버불링 탐지 시스템에서의 주요 과제는 무엇인가?
• RQ4 텍스트, 이미지, 행동을 통합한 다중모달 접근법은 텍스트 전용 모델 대비 탐지 정확도 향상에 얼마나 효과적인가?
• RQ5 현재 사이버불링 탐지 시스템에서 여전히 남아 있는 연구 격차는 무엇이며, 향후 연구에서 가장 유망한 방향은 무엇인가?

주요 결과

• CyberBullying-Reddit 및 Twitter-Cyberbullying와 같은 가장 널리 사용되는 데이터셋은 심각한 클래스 불균형과 언어적 편향을 보이며, 이는 모델의 일반화 능력을 제한한다.
• Transformer 기반 모델인 BERT와 RoBERTa가 미세조정을 통해 벤치마크 데이터셋에서 F1 스코어 0.85 이상을 기록하며 최신 기술 수준의 성능을 달성한다.
• 텍스트와 이미지 특징을 통합한 다중모달 접근법은 텍스트 전용 모델 대비 탐지 정확도를 최대 12% 향상시키며, 특히 시각적 콘텐츠를 동반한 혐오 발언 탐지에 효과적이다.
• 다양한 기술적 진보에도 불구하고, 무심한 태도나 빈티지 표현, 비꼬는 말과 같은 간접적 또는 암묵적인 사이버불링 형태는 여전히 탐지하기 어려운 과제로 남아 있다.
• 계산 비용과 플랫폼 간 표준화된 평가 프로토콜 부족으로 인해 실시간 배포에 큰 격차가 존재한다.
• 거짓 경고를 줄이고 소외된 집단에 대한 과도한 감시를 방지하기 위해 설명 가능한 인공지능과 공정성 인식 모델의 필요성이 매우 높다.