[論文レビュー] Tiplines to Combat Misinformation on Encrypted Platforms: A Case Study of the 2019 Indian Election on WhatsApp

Ashkan Kazemi, Kiran Garimella+3 more|arXiv (Cornell University)|Jun 8, 2021

Misinformation and Its Impacts参考文献 24被引用数 4

ひとこと要約

本研究では、2019年インド議会選挙期におけるエンド・ツー・エンド暗号化プラットフォーム（WhatsAppなど）における誤情報の事実確認のためのクラウドソーシング型チルインを評価している。CheckPointチルインの提出内容と、一般のWhatsAppグループおよびShareChatのコンテンツを比較した結果、チルインは、広がりが著しいコンテンツの顕著な割合を捉えていることが判明した。具体的には、人気のある画像の67%、人気のあるテキストメッセージの23%が、広く拡散される前に対象となっており、誤情報検出の早期警戒システムとしての有効性を示している。

ABSTRACT

There is currently no easy way to fact-check content on WhatsApp and other end-to-end encrypted platforms at scale. In this paper, we analyze the usefulness of a crowd-sourced "tipline" through which users can submit content ("tips") that they want fact-checked. We compare the tips sent to a WhatsApp tipline run during the 2019 Indian national elections with the messages circulating in large, public groups on WhatsApp and other social media platforms during the same period. We find that tiplines are a very useful lens into WhatsApp conversations: a significant fraction of messages and images sent to the tipline match with the content being shared on public WhatsApp groups and other social media. Our analysis also shows that tiplines cover the most popular content well, and a majority of such content is often shared to the tipline before appearing in large, public WhatsApp groups. Overall, our findings suggest tiplines can be an effective source for discovering content to fact-check.

研究の動機と目的

• エンド・ツー・エンド暗号化プラットフォーム（WhatsAppなど）における誤情報検出に、クラウドソーシング型チルインがプライバシーを守りつつ効果的な方法であるかどうかを調査すること。
• 2019年インド議会選挙のような高リスクの政治的出来事において、チルインに提出されたコンテンツの性質と範囲を理解すること。
• チルインの提出内容と、一般のWhatsAppグループおよび他のソーシャルメディアプラットフォーム（ShareChatなど）で循環しているコンテンツを比較し、その代表的さを評価すること。
• 従来のオープンソーシャルメディアのシグナルに依存する事実確認組織と比較して、チルインが誤情報の拡散をどれほど効果的に検出できるかを評価すること。
• チルインが、広がりが著しい誤情報が広がる前に対象とできるスケーラブルな早期警戒システムとして、実証的根拠を提供すること。

提案手法

• 2019年インド選挙期間中にCheckPointチルインに提出された88,662件のテキストメッセージ、48,978枚の画像、10,198件のリンクを収集した。
• インドの政治に関する議論がなされている5,000の一般公開WhatsAppグループからデータをクロールし、668,829件のテキストメッセージおよび130万枚の画像を収集した。
• ShareChatから政治的コンテンツを収集し、人気度指標（いいね/共有数）を伴う120万枚の画像を取得して、ウイルス性コンテンツを特定した。
• 英語およびヒンディー語でそれぞれ3,224件および2,220件の事実確認記事を収集し、これらの記事にリンクされた811件のオリジナルツイートも含めた。
• テキストおよび画像のマッチング技術を用いて、チルイン、一般のWhatsAppグループ、ShareChat、および事実確認ソース間のコンテンツを比較分析した。
• コンテンツの拡散タイミングを時系列的に分析し、チルイン提出が他のプラットフォームでの一般公開の前後をどの程度カバーしているかを測定した。

実験結果

リサーチクエスチョン

• RQ1 WhatsAppのような暗号化ソーシャルメディアプラットフォームにおける誤情報検出に、チルインはどれほど効果的か？
• RQ2 主な政治的出来事の時期に、誤情報チルインに最も多く提出されるコンテンツの種類は何か？
• RQ3 チルインのコンテンツは、一般のWhatsAppグループや他のソーシャルメディアプラットフォームで循環しているコンテンツと、カバー範囲とタイミングにおいてどのように比較されるか？
• RQ4 チルインは、誤情報が広がり始める前に対象としてどれほど多くのウイルス性コンテンツを捉えているか？
• RQ5 オープンプラットフォーム（Twitter や Facebook など）に依存する従来の事実確認組織と比較して、チルインのカバー範囲はどの程度か？

主な発見

• 2019年インド選挙期に一般のWhatsAppグループで最も広がった画像の67%が、WhatsAppチルインにも提出されていた。
• 一般のWhatsAppグループで最も人気だったテキストメッセージの23%がチルインに提出されており、ウイルス性テキストコンテンツの強力なカバーを示している。
• 画像およびテキストの両方のウイルス性コンテンツの大多数が、大規模な一般公開の前に対象となっており、チルインが早期検出メカニズムとして機能していることが示唆される。
• 従来の事実確認組織が通常オープンプラットフォーム（Twitter や Facebook など）のシグナルに依存するのに対し、チルインはWhatsAppの一般グループからのコンテンツをはるかに多くカバーしている。
• チルインは、WhatsAppの暗号化されたエコシステムに特有のコンテンツを捉えており、オープンプラットフォームベースの事実確認活動よりも、プライベートおよびセミプライベートなグループで循環する誤情報のより代表的なサンプルを提供している。
• 本研究は、チルインが、スケーラブルかつプライバシーを守った方法で、暗号化プラットフォームにおける誤情報の特定と優先順位付けを可能にする有効な手段であることを示している。