[논문 리뷰] Violence originated from Facebook: A case study in Bangladesh

Matiur Rahman Minar, Jibon Naher|arXiv (Cornell University)|2018. 01. 01.

Hate Speech and Cyberbullying Detection참고 문헌 4인용 수 16

한 줄 요약

이 논문은 2012년에서 2017년 사이에 뱅글라데시에서 페이스북 기반의 오보 및 증오 발언이 종교 소수자에 대한 폭력적 공동체 공격을 유발한 방식을 조사한다. 람루(2012), 파브나(2013), 코밀라(2014), 브라하먼바리아(2016), 랑푸르(2017)의 다섯 사례 연구를 분석하여 위조되거나 허위로 작성된 페이스북 게시물이 화재, 폭도 폭력 및 체계적 박해를 유도했음을 입증한다. 본 연구는 향후 기술 기반 폭력 방지를 위해 인공지능 기반 감지 시스템과 소셜 미디어에서의 엄격한 신원 확인을 제안한다.

ABSTRACT

Facebook as in social network is a great innovation of modern times. Among all social networking sites, Facebook is the most popular social network all over the world. Bangladesh is no exception. People use Facebook for various reasons e.g. social networking and communication, online shopping and business, knowledge and experience sharing etc. However, some recent incidents in Bangladesh, originated from or based on Facebook activities, led to arson and violence. Social network i.e. Facebook was used in these incidents mostly as a tool to trigger hatred and violence. This case study discusses these technology related incidents and recommends possible future measurements to prevent such violence.

연구 동기 및 목표

• . 이 연구는 페이스북이 뱅글라데시에서 종교적 폭력을 조장하는 도구로 어떻게 사용되는지 조사한다.
• 사람들이 소셜 미디어 콘텐츠의 진위를 확인하지 못하는 체계적 실패가 폭도 폭력으로 이어지는 방식을 밝힌다.
• 위조되거나 과도하게 자극적인 페이스북 게시물이 실제 폭력으로 이어지는 메커니즘을 이해하는 데 목적이 있다.
• 폭력으로 악화되기 전에 증오 심리적 콘텐츠를 탐지하고 방지하기 위한 기술 기반 솔루션을 제안한다.

제안 방법

• . 이 논문은 2012~2017년 사이에 페이스북과 관련된 뱅글라데시의 다섯 가지 주요 폭력 사건에 대한 질적 사례 연구 분석을 수행한다.
• 각 사건에서 분노를 유발하는 페이스북 게시물의 시간대, 내용, 확산 경로를 분석한다.
• 가짜 신원, 위장 행위, 이미지 편집(예: 가공된 쿠란 사진)이 폭력 유도에 어떤 역할을 했는지 평가한다.
• 소셜 미디어 플랫폼에서 의심스러운 사용자 및 활동을 식별할 수 있는 인공지능 기반 감지 시스템을 제안한다.
• 사용자 신원을 다단계로 확인하여 匿名성과 오용 가능성을 줄이기 위한 권고를 제시한다.
• 자신의 생명을 위협하는 행동을 탐지하는 페이스북의 AI 자살 예방 도구와 유사한 사전 모니터링 체계를 도입하여 증오 발언 및 극단주의 감지에 활용할 것을 주장한다.

실험 결과

연구 질문

• RQ1 . 2012년에서 2017년 사이에 페이스북 게시물은 뱅글라데시의 공동체 폭력 사건 발생에 어떻게 기여했는가?
• RQ2 오해의 소지가 있는 정보, 위장 행위, 이미지 편집은 실제 폭력 공격을 유도하는 데 어떤 역할을 했는가?
• RQ3 왜 뱅글라데시의 소셜 미디어 사용자들은 진위 여부를 확인하지 않은 채 증오 콘텐츠가 급속히 퍼지는 데 특히 취약한가?
• RQ4 소셜 네트워크에서 증오 심리적 콘텐츠의 확산을 탐지하고 방지하기 위해 어떤 기술적 조치를 시행할 수 있는가?
• RQ5 소셜 미디어 플랫폼과 경찰 기관은 어떻게 협력하여 기술 기반 폭력의 영향을 줄일 수 있는가?

주요 결과

• . 2017년 랑푸르 사건에서 위조된 페이스북 게시물이 무하마드 예언자를 모욕한다고 주장하며 폭도 폭력이 발생하여 1명이 사망하고 20명이 부상당했으며 30채의 힌두교 집이 파괴되었다.
• . 2016년 브라하먼바리아 사건에서 라스라즈 다스를 위장한 가짜 페이스북 계정이 카바와 시바 신을 묘사한 편집된 이미지를 게시하여 폭력이 발생했으며, 150채가 넘는 힌두교 집과 15座의 사원이 파괴되었다.
• . 2014년 코밀라 사건에서 페이스북과 스피커를 통해 퍼진 허위 소문은 두 명의 힌두 청소년이 예언자를 모욕했다고 주장하여 3,000명이 참가한 폭도 폭력이 발생했고 28채의 힌두교 집이 약탈당했다.
• . 2013년 파브나 사건에서 블라스피미를 저지른 혐의가 있는 소년에 대한 위조 페이스북 페이지의 사진 복사본이 유포되어 폭력이 유도되었으며, 25채의 힌두교 집이 손상되고 150개 가구가 추방당했다.
• . 2012년 람루 사건에서 불신자 남성이 쿠란에 훼손 이미지를 표시하는 것으로 위조된 사진이 유포되어 12개의 불교 사원과 50채의 집이 파괴되었다.
• . 모든 사례에서 피의자들은 진위 여부를 확인하지 않은, 종종 위조된 소셜 미디어 콘텐츠를 근거로 폭력 행위를 정당화했으며, 이는 디지털 콘텐츠 검증 및 플랫폼 책임의 심각한 실패를 드러낸다.