[論文レビュー] Can WhatsApp Counter Misinformation by Limiting Message Forwarding?

Philipe Melo, Carolina Coimbra Vieira+3 more|arXiv (Cornell University)|Sep 18, 2019

Misinformation and Its Impacts被引用数 5

ひとこと要約

本稿は、ブラジル、インド、インドネシアの実際のWhatsAppグループデータを用いて、誤情報拡散防止策としてのWhatsAppのメッセージ転送制限（5件まで）を、SEI疫学的モデルを用いて評価している。結果として、制限により誤情報の拡散が最大2桁の時間遅延をもたらすが、特にバースト性が高く、関与度の高いネットワークでは、数週間以内に大規模なユーザーに到達する高インパルス性コンテンツが依然として広がることを示している。

ABSTRACT

WhatsApp is the most popular messaging app in the world. The closed nature of the app, in addition to the ease of transferring multimedia and sharing information to large-scale groups make WhatsApp unique among other platforms, where an anonymous encrypted messages can become viral, reaching multiple users in a short period of time. The personal feeling and immediacy of messages directly delivered to the user's phone on WhatsApp was extensively abused to spread unfounded rumors and create misinformation campaigns during recent elections in Brazil and India. WhatsApp has been deploying measures to mitigate this problem, such as reducing the limit for forwarding a message to at most five users at once. Despite the welcomed effort to counter the problem, there is no evidence so far on the real effectiveness of such restrictions. In this work, we propose a methodology to evaluate the effectiveness of such measures on the spreading of misinformation circulating on WhatsApp. We use an epidemiological model and real data gathered from WhatsApp in Brazil, India and Indonesia to assess the impact of limiting virality features in this kind of network. Our results suggest that the current efforts deployed by WhatsApp can offer significant delays on the information spread, but they are ineffective in blocking the propagation of misinformation campaigns through public groups when the content has a high viral nature.

研究の動機と目的

• WhatsAppの5件メッセージ転送制限が、誤情報拡散を抑える実世界での有効性を評価すること。
• WhatsAppのパブリックグループネットワークにおけるウイルス性の拡散が、(誤)情報の迅速かつ大規模な拡散を可能にする仕組みを理解すること。
• 実際のWhatsAppデータと疫学的フレームワークを用いて、誤情報拡散の時間的ダイナミクスをモデル化すること。
• 選挙期間中に標的的な誤情報キャンペーンを防ぐために、現在の技術的制限が十分であるかどうかを評価すること。
• 一時的な不審ユーザー隔離などのシステムレベルの干渉策を提案し、プラットフォームのレジリエンスを高めること。

提案手法

• ブラジル、インド、インドネシアの実際のWhatsAppグループデータを収集し、パブリックグループとメッセージ転送パターンに焦点を当てた。
• グループ間のメッセージ転送関係に基づいて、パブリックグループのネットワークを再構築した。
• 誤情報の拡散を再現するために、感受性・潜伏期・感染症（SEI）疫学的モデルを適用した。
• 実世界のタイミングを反映させるために、転送間の実測間隔に基づいた「潜伏時間」を導入した。
• ランダム、実測間隔、グループ時間ベースの3つの時間戦略をテストし、実際の伝播速度を反映した。
• 実データを用いて分単位で伝播速度を測定し、転送制限が感染率およびネットワーク到達範囲に与える影響を比較した。

実験結果

リサーチクエスチョン

• RQ1 WhatsAppの5件転送制限は、パブリックグループネットワークにおける誤情報拡散の速度と規模にどのように影響を与えるか？
• RQ2 WhatsAppグループにおける実際の転送パターンは、バースト性があり、疫学的伝播に類似したダイナミクスをどれほど示しているか？
• RQ3 SEIモデルは、WhatsAppのグループネットワーク構造における誤情報の感染までの時間を正確にシミュレートできるか？
• RQ4 異なるタイミング仮定（ランダム、実測、グループ時間）は、誤情報が多数のユーザーに到達するまでの推定時間をどのように変えるか？
• RQ5 どのような条件下で、現在の転送制限は、高インパルス性誤情報のウイルス性拡散を防げないか？

主な発見

• 5件転送制限は、元々の256件転送制限と比較して、誤情報拡散を最大2桁遅らせる効果がある。
• インドでは、実測間隔を用いた場合、60％のパブリックグループユーザーが200分（3.5時間未満）以内にウイルス性メッセージにさらされた。
• ブラジルでは、グループ時間戦略により、半数のユーザーが3,000分（約50時間）以内に感染した。これは、転送制限があるにもかかわらず、急速な拡散が生じていることを示している。
• インドネシアでは、3つのタイミング戦略とも類似した遅い拡散を示し、80％以上のユーザーが2週間以上経ってから感染した。
• 遅延は見られるものの、3か国すべてで誤情報は依然として高インパルス性を示しており、20％のメッセージが十分に長期間持続し、広範な到達を達成した。
• 本研究の結論として、転送制限のみでは、特に選挙などの重要なイベント時に標的的な高インパルス性誤情報キャンペーンに対処できないことが示された。