[논문 리뷰] Impact of Social Media Posts in Real life Violence: A Case Study in Bangladesh

Jibon Naher, Matiur Rahman Minar|arXiv (Cornell University)|2018. 12. 19.

Hate Speech and Cyberbullying Detection참고 문헌 14인용 수 7

한 줄 요약

이 논문은 2012년에서 2017년 사이에 방글라데시에서 발생한 Facebook 게시물이 혐오 발언, 허위 정보 및 사이버불링을 통해 실제 폭력으로 이어진 방식을 분석하며, 다섯 건의 사례 연구를 통해 사회적 미디어가 약한 규제 감시 체계를 가진 디지털 사회에서 폭력적 집단 행동을 어떻게 유도하는지 조사한다. 연구는 인공지능 기반 괴롭힘 탐지, 엄격한 신원 확인 및 미디어 리터러시와 같은 기술적·심리적 개입을 제안하여 사회적 미디어에 기반한 폭력 사건을 방지하고자 한다.

ABSTRACT

Social Networking Site (SNS) is a great innovation of modern times. Facebook, Twitter etc. have become an everyday part of peoples' life. Among all SNSs, Facebook is the most popular social network all over the world. Bangladesh is no exception. People of Bangladesh use Facebook for social communication, online shopping, business, knowledge and experience sharing etc. As well as the various uses of SNSs, people sometimes find themselves involved in real life violence, provoked by some social media posts or activities. In this paper, we discussed some case studies in which real life violence is originated based on Facebook activities in Bangladesh. Facebook was used in these incidents intentionally or unintentionally mostly as a tool to trigger hatred and violence. We analyzed and discussed the real-world consequences of these virtual activities in social media. Lastly, we recommended possible future measurements to prevent such violence.

연구 동기 및 목표

• 페이스북에서의 사회적 미디어 활동과 방글라데시의 실제 폭력 간의 인과 관계를 조사하는 것.
• 폭력적 집단 행동을 유발하는 공통된 패tern을 규명하는 것, 특히 유포성 허위 정보, 종교적 혐오 발언 및 사이버불링의 패턴을 분석하는 것.
• 온라인 콘텐츠가 실질적 폭력으로 급속히 악화되는 심리적 및 사회기술적 요인을 분석하는 것.
• 미래의 사회적 미디어 기반 폭력 사건을 방지하기 위한 실천 가능하고 기술 기반·행동 기반의 개입 전략을 제안하는 것.

제안 방법

• 2012년에서 2017년 사이에 페이스북 게시물이 실제로 폭력으로 이어진 다섯 건의 사례를 분석한 사례 연구.
• 내용, 사용자 행동 및 확산 패턴을 분석하여 종교적 비방이나 개인적 복수심을 자극하는 요소를 규명하는 주제 분석.
• 기존의 인공지능 및 자연어 처리 기법을 활용해 온라인 괴롭힘과 혐오 발언을 탐지하는 기술을 방글라데시의 맥락에 맞게 적용.
• 페이스북에서 익명 또는 위조 계정을 줄이기 위한 다수 수준의 신원 확인 시스템 제안.
• 폭력 발생 이전에 고위험 사용자나 콘텐츠를 식별하기 위한 인공지능 기반 예측 모델 개발. 이는 페이스북의 자살 예방 도구를 모델로 삼음.
• 심리적 권고 사항 통합, 예를 들어 미디어 리터러시 및 가상 세계 의존도 감소를 통해 온라인 콘텐츠에 대한 맹신을 줄이는 것.

실험 결과

연구 질문

• RQ1 특정 페이스북 게시물이 방글라데시에서 어떻게 실제 폭력 집단 행동으로 이어지는가?
• RQ2 온라인 콘텐츠가 신체적 폭력으로 이어지는 데 기여하는 공통된 심리적 및 사회기술적 요인은 무엇인가?
• RQ3 허위 정보나 위조 콘텐츠는 오프라인 공동체의 긴장을 어떻게 악화시키는가?
• RQ4 개발도상국에서 인공지능 및 신원 확인 시스템을 어떻게 조정하여 혐오 기반 폭력의 탐지 및 방지를 할 수 있는가?
• RQ5 온라인 콘텐츠에 대한 맹신을 줄이고 실제 폭력 피해를 방지하기 위해 어떤 행동 및 교육적 개입 전략이 효과적인가?

주요 결과

• 2012년에서 2017년 사이에 방글라데시에서 발생한 다섯 건의 주요 사건은 모두 이미지 기반 비방 및 도발적인 댓글 등 페이스북 게시물로 인해 유발되었다.
• 모든 사례에서 폭력은 검증되지 않은 정서적으로 격렬한 콘텐츠에서 비롯되었으며, 종교적 또는 개인적 분노를 악용해 빠르게 닫힌 그룹을 통해 확산되었다.
• 연구진은 사용자들이 게시물의 진위를 자주 확인하지 못해 맹신에 기반한 집단 행동이 발생함을 발견했다.
• 페이스북은 의도적인 선동과 무의식적 혐오 확산 도구로 사용되었으며, 익명성과 약한 모니터링으로 인해 책임 소재가 거의 없었다.
• 연구진은 디지털 안전 인프라에 심각한 격차가 존재함을 발견했으며, 특히 사회적 미디어 오용이 심각한 실제 폭력 결과로 이어지는 저자원 환경에서 그러한 격차가 두드러졌다.
• 페이스북에서 자살 예측을 위한 기존 인공지능 도구가 혐오 기반 폭력 예방을 위한 유사한 시스템을 대규모로 적용하는 데 있어 모델로 제시되었다.