[論文レビュー] Violence originated from Facebook: A case study in Bangladesh

Matiur Rahman Minar, Jibon Naher|arXiv (Cornell University)|Jan 1, 2018

Hate Speech and Cyberbullying Detection参考文献 4被引用数 16

ひとこと要約

この論文は、2012年から2017年にかけてバングラデシュで発生した宗教的少数派を標的にした暴力的集団暴動が、フェイスブックに起因する誤情報および嫌がらせ発言によって引き起こされた経緯を調査している。5件の事例研究（ラムー2012年、パブナ2013年、チミラ2014年、ブラーマンバラ2016年、ラングプール2017年）を分析し、架空または中傷を含むフェイスブック投稿が放火、暴徒による暴力、制度的迫害を引き起こしたことを示している。本研究では、将来的なテクノロジー支援暴力を防ぐために、AIを活用した検出システムと、ソーシャルメディア上の身元確認の厳格化を提言している。

ABSTRACT

Facebook as in social network is a great innovation of modern times. Among all social networking sites, Facebook is the most popular social network all over the world. Bangladesh is no exception. People use Facebook for various reasons e.g. social networking and communication, online shopping and business, knowledge and experience sharing etc. However, some recent incidents in Bangladesh, originated from or based on Facebook activities, led to arson and violence. Social network i.e. Facebook was used in these incidents mostly as a tool to trigger hatred and violence. This case study discusses these technology related incidents and recommends possible future measurements to prevent such violence.

研究の動機と目的

• 本研究は、フェイスブックがバングラデシュで宗教的暴力を扇動する手段としてどのように使われているかを調査する。
• 本研究は、ソーシャルメディアのコンテンツの真正性を検証する体制のシステム的欠陥が、暴徒による暴力を引き起こす原因となっていることを特定する。
• 本研究は、架空または誘発的なフェイスブック投稿が現実世界の暴力を引き起こすメカニズムを理解することを目的としている。
• 本研究は、暴力的憎悪コンテンツが拡散する前に検出・防止できる技術的解決策を提言する。

提案手法

• 本論文は、2012年から2017年にかけてフェイスブックと関連する5件の重大な暴力事件について、定性的な事例研究分析を実施している。
• 本研究は、各事件における誘発的フェイスブック投稿のタイムライン、内容、拡散経路を検討している。
• 本研究は、偽の身元、模倣、画像改ざん（例：加工されたコーランの画像）が暴力を扇動する役割を評価している。
• 本研究は、ソーシャルメディアプラットフォーム上での不審なユーザーおよび行動を特定するためのAIベースの検出システムを提言している。
• 著者らは、匿名性を低減し、悪用を防ぐために、ソーシャルメディアアカウントに対して多段階の身元確認を推奨している。
• 本研究は、フェイスブックのAI自殺防止ツールに類似した、予防的監視システムの導入を提言しており、過激主義および嫌がらせ発言検出に適応したものである。

実験結果

リサーチクエスチョン

• RQ1 フェイスブック投稿は、2012年から2017年にかけてバングラデシュでどのようにコミュニティの暴力を引き起こしたのか？
• RQ2 誤情報、模倣、画像改ざんが現実世界の攻撃を扇動する上で果たした役割は何か？
• RQ3 なぜバングラデシュのソーシャルメディア利用者は、真正性を検証しないまま、拡散する憎悪コンテンツに特に脆弱なのであるか？
• RQ4 ソーシャルネットワーク上で憎悪を動機とするコンテンツの拡散を検出・防止するために、どのような技術的措置を講じられるか？
• RQ5 ソーシャルメディアプラットフォームと法執行機関は、テクノロジーを介した暴力を緩和するためにどのように連携できるか？

主な発見

• ラングプール2017年の事件では、預言者ムハンマドを中傷するとされる架空のフェイスブック投稿が、1人の死亡、20人以上の負傷、30軒のヒンズー教徒の家屋破壊を引き起こした暴動を引き起こした。
• ブラーマンバラ2016年では、ラスラージ・ダスを模倣した偽のフェイスブックアカウントが、カバとラーマ神の改ざん画像を投稿し、150軒以上のヒンズー教徒の家屋および15座の寺院を破壊する暴力を引き起こした。
• チミラ2014年では、2人のヒンズー教徒青年が預言者を冒涜したというフェイスブックとスピーカーを通じた虚偽の噂が拡散され、3,000人規模の暴徒が28軒のヒンズー教徒の家屋を略奪した。
• パブナ2013年では、11歳の少年が冒涜をしたとされる偽のフェイスブックページのコピーが配布され、25軒のヒンズー教徒の家屋が損壊し、150家族が避難を余儀なくされた。
• ラムー2012年では、仏教徒の男がコーランに侮辱の画像を貼ったとされる改ざん画像が流出し、12座の仏教寺院と50軒の家屋が破壊された。
• すべての事例において、加害者は、検証されていない、しばしば架空のソーシャルメディアコンテンツに依拠して暴力を正当化しており、デジタルコンテンツの検証およびプラットフォームの責任の欠如という深刻な問題が浮き彫りになっている。