[論文レビュー] Can WhatsApp Benefit from Debunked Fact-Checked Stories to Reduce Misinformation?

Júlio C. S. Reis, Philipe Melo+2 more|arXiv (Cornell University)|Jun 3, 2020

Misinformation and Its Impacts被引用数 11

ひとこと要約

本稿では、エンド・トゥ・エンド暗号化を損なわずに、WhatsApp向けにプライバシーを尊重する、デバイス内での事実確認アーキテクチャを提案する。このアーキテクチャは、知覚ハッシュを用いて、事前に事実確認済みの誤情報画像をリアルタイムで検出・フラグ付けする。その結果、ブラジルとインドの誤情報共有のうち、それぞれ40.7%および82.2%が、事実確認後に発生しており、事前に検出することで広がりを防ぐという大きな機会損失が生じていることが示された。

ABSTRACT

WhatsApp was alleged to be widely used to spread misinformation and propaganda during elections in Brazil and India. Due to the private encrypted nature of the messages on WhatsApp, it is hard to track the dissemination of misinformation at scale. In this work, using public WhatsApp data, we observe that misinformation has been largely shared on WhatsApp public groups even after they were already fact-checked by popular fact-checking agencies. This represents a significant portion of misinformation spread in both Brazil and India in the groups analyzed. We posit that such misinformation content could be prevented if WhatsApp had a means to flag already fact-checked content. To this end, we propose an architecture that could be implemented by WhatsApp to counter such misinformation. Our proposal respects the current end-to-end encryption architecture on WhatsApp, thus protecting users' privacy while providing an approach to detect the misinformation that benefits from fact-checking efforts.

研究の動機と目的

• 第三者機関による事実確認後も、誤情報がWhatsApp上で引き続き拡散し続けているかどうかを調査すること。
• 公開の事実確認データを活用して、WhatsApp上で事前に確認済みの内容を検出・ブロックする仕組みの実現可能性を評価すること。
• エンド・トゥ・エンド暗号化を損なわず、既知の誤情報検出を可能にするプライバシー尊重型アーキテクチャを設計すること。
• 既存の事実確認作業を活用して、暗号化されたメッセージング・プラットフォームにおける誤情報の拡散を抑える可能性を評価すること。

提案手法

• 国立選挙期間中のブラジルおよびインドの公開WhatsAppグループからデータを収集し、画像ベースの誤情報に焦点を当てた。
• ブラジルの事実確認機関から135枚、インドの事実確認機関から205枚の事実確認済み誤情報画像のデータセットを、関連する事実確認日付とともに取得した。
• 最先端の知覚ハッシュ技術であるPDQハッシュを適用し、WhatsAppデータ内での事実確認済み画像の類似または改変版を検出した。
• 画像の逆検索と手動による検証を用いて、事実確認済みコンテンツの正確なラベル付けと、WhatsAppデータセット内でのマッチングの妥当性を確認した。
• WhatsAppクライアントが、事前に事実確認済みのコンテンツのローカルに保存された暗号化済みハッシュデータベースと照合することで、受信コンテンツを検出するデバイス内検出アーキテクチャを提案した。
• マッチング処理をユーザーのデバイス上でローカルに実行することで、サーバー側でのコンテンツ監視を一切行わず、エンド・トゥ・エンド暗号化を尊重するように設計した。

実験結果

リサーチクエスチョン

• RQ1 専門機関による事実確認と否定後、誤情報がWhatsAppでどの程度共有され続けているか。
• RQ2 WhatsAppは、既存の事実確認作業をどのように活用して、事前に否定された内容の拡散を防げるか。
• RQ3 エンド・トゥ・エンド暗号化されたメッセージングアプリケーションで、既知の誤情報を検出するプライバシー尊重型システムを実装するのは現実的か。
• RQ4 WhatsAppの公開グループにおいて、コンテンツが事実確認機関によって偽物と特定された後、どの程度の割合の誤情報共有が発生しているか。

主な発見

• ブラジルのWhatsApp公開グループにおける誤情報画像共有の40.7%が、事実確認後に発生しており、事後的な拡散が顕著であることが示された。
• インドのWhatsApp公開グループにおける誤情報画像共有の82.2%が、事実確認機関による偽物としてのラベル付与後に共有されたことを示しており、コンテンツ管理における大きな空白が浮き彫りになった。
• 偽物としてラベル付けされたにもかかわらず、誤情報の大部分がWhatsApp上で広く流通し続けていることから、公開の事実確認だけでは拡散を抑えるには不十分であることが示された。
• 知覚ハッシュ（PDQ）を用いた手法が、WhatsAppデータ内での事実確認済み画像の類似および改変版を効果的に検出できた。技術的実現可能性が裏付けられた。
• 提案されたデバイス内アーキテクチャにより、エンド・トゥ・エンド暗号化を損なわず、既知の誤情報を検出可能であり、ユーザーのプライバシーを守ることができる。
• 本研究で作成した事実確認済み画像とWhatsAppグループデータのデータセットは、これまでに公に入手可能な中で、WhatsAppにおける誤情報の流れを分析するための最大規模のサンプルである。