[論文レビュー] Preventing the Spread of Online Harms: Physics of Contagion across Multi-Platform Social Media and Metaverses

Xu Chen, P. M. Hui+3 more|arXiv (Cornell University)|Jan 12, 2022

Misinformation and Its Impacts被引用数 4

ひとこと要約

本稿は、マルチプラットフォームのソーシャルメディアおよびメタバースにおけるオンライン悪影響の伝染を物理的モデルで定式化し、動的クラスタリング、プラットフォームの異質性、標的型モデレーター対応を統合する。オンライン版の「R₀基準」を導出し、再入相転移を予測するとともに、オンライン集団免疫を達成するためのデジタル予防接種の閾値を定量化する。

ABSTRACT

We present a minimal yet empirically-grounded theory for the spread of online harms (e.g. misinformation, hate) across current multi-platform social media and future Metaverses. New physics emerges from the interplay between the intrinsic heterogeneity among online communities and platforms, their clustering dynamics generated through user-created links and sudden moderator shutdowns, and the contagion process. The theory provides an online `R-nought' criterion to prevent system-wide spreading; it predicts re-entrant spreading phases; it establishes the level of digital vaccination required for online herd immunity; and it can be applied at multiple scales.

研究の動機と目的

• 相互接続されたソーシャルメディア・プラットフォームおよび将来のメタバースを横断する、誤情報や憎悪感情などのオンライン悪影響の伝搬を最小限かつ経験的根拠に基づいた理論として開発すること。
• 動的ネットワーク構造と標的型モデレーター介入の下で、大規模な伝染ダイナミクスを理解するための体系的フレームワークの欠如に応えること。
• 疫学的R₀に類似した、システム全体の伝搬を防ぐ定量的基準を導出すること。この基準は、プラットフォームやスケールを問わず適用可能である。
• オンライン集団免疫を達成し、大規模な悪影響の拡散を防ぐために必要なデジタル予防接種（例：反論メッセージ）のレベルを定量化すること。
• プラットフォーム固有のダイナミクス（例えば、リンク形成頻度やクラスタリング行動の違い）が、オンラインエコシステムのレジリエンスに与える影響を調査すること。

提案手法

• Eq. 1に従い、プラットフォーム固有の断片化および凝集率を組み込んだ、ノード間クラスタ所属確率の時間発展を記述するマスターエンジン（マスターエンジン）を定式化する。
• 定常状態平均化（Eq. 2）を用いて、プラットフォーム内比率および種間・種内リンクダイナミクスに依存する、システム全体のクラスタ接続性測度を導出する。
• 一般化された「R₀基準」（Eq. 4）を導入し、リンク形成および断片化率に基づいて、システム全体の伝搬閾値を決定する。
• 3つの異なる状況にモデルを適用する：(I) 異種間で等しいリンク形成、(II) プラットフォーム依存のリンク形成（例：Facebook対Gab）、(III) 感染確率の低減によるデジタル予防接種。
• システム全体の伝搬を防ぐための臨界予防接種閾値（Eq. 6）を導出し、感染率、回復率、ワクチン効果率に依存することを示す。
• 数値シミュレーションおよびフェーズダイアグラム（例：図2、3、4）を用いて、パラメータ変動下での伝搬境界および再入相転移を可視化する。

実験結果

リサーチクエスチョン

• RQ1 マルチプラットフォームのソーシャルメディアおよびメタバースを横断するオンライン悪影響が、システム全体に広がるための臨界的条件は何か？
• RQ2 動的クラスタリングおよび有害コミュニティの突然のモデレーターによるシャットダウンは、再入伝搬相転移の発生にどのように影響するか？
• RQ3 オンライン集団免疫を達成し、大規模な伝染を防ぐために必要なデジタル予防接種（例：反論メッセージ）のレベルはどの程度か？
• RQ4 プラットフォーム固有のリンク形成頻度は、外部からの悪影響伝搬に対するプラットフォームのレジリエンスにどのように影響するか？
• RQ5 特定プラットフォームやノード種の標的型予防接種が、逆に有害コンテンツを保護が薄い他のプラットフォームに再配布させる可能性はあるか？

主な発見

• モデルは、伝搬行動における再入相転移を予測する。すなわち、プラットフォームの認知度が低い段階では伝搬が発生しないが、認知度が上昇することで、リンク形成レートが固定であっても再び伝搬が発生する。
• システム全体の伝搬は、支配的プラットフォーム（例：R）のノード割合がパrameter空間内の特定の半楕円領域内にある場合にのみ防止可能であり、これはブロードキャスト隔離措置を伴わない標的型介入を可能にする。
• オンライン集団免疫の臨界閾値はEq. 6で定量化される：最小限のノード割合が予防接種を受けなければならず、ワクチン効果率（1−φ）が高くなるほど、必要な割合は低下する。
• あるプラットフォーム（例：B）の全ノードを予防接種しても、全体の伝搬領域は顕著に減少せず、有害コンテンツが単に他の保護が薄いプラットフォームに再集中する可能性がある。
• リンク形成頻度が低いプラットフォーム（例：Gab 対 Facebook）は、大規模ネットワークに属していても、システム全体の伝搬を維持しにくい傾向にある。
• 図1b,cに示されるCOVID-19誤情報の拡散に関する実証データは、わずか2組のパラメータで良好に再現可能であり、最小限の仮定のもとで本モデルの予測力が裏付けられる。