[論文レビュー] Friction Interventions to Curb the Spread of Misinformation on Social Media

Laura Jahn, Rasmus K. Rendsvig+3 more|arXiv (Cornell University)|Jul 21, 2023

Misinformation and Its Impacts参考文献 59被引用数 5

ひとこと要約

本稿では、コミュニティ基準についての学習を統合した摩擦干渉を提案し、ソーシャルメディア上の低品質コンテンツの拡散を抑えるものである。エージェントベースのシミュレーションの結果、摩擦のみでは投稿数は減少するが品質は向上しない一方、やや軽い摩擦（f = 0.01–0.05）と学習（ℓ = 0.1–0.3）を組み合わせることで、平均的な投稿品質が顕著に向上することが示され、参加者への影響を最小限に抑えつつ情報品質を向上させるスケーラブルで、侵襲性の低い手法が得られる。

ABSTRACT

Social media has enabled the spread of information at unprecedented speeds and scales, and with it the proliferation of high-engagement, low-quality content. *Friction* -- behavioral design measures that make the sharing of content more cumbersome -- might be a way to raise the quality of what is spread online. Here, we study the effects of friction with and without quality-recognition learning. Experiments from an agent-based model suggest that friction alone decreases the number of posts without improving their quality. A small amount of friction combined with learning, however, increases the average quality of posts significantly. Based on this preliminary evidence, we propose a friction intervention with a learning component about the platform's community standards, to be tested via a field experiment. The proposed intervention would have minimal effects on engagement and may easily be deployed at scale.

研究の動機と目的

• ソーシャルメディアプラットフォームにおける低品質および誤解を招くコンテンツの拡散を、コンテンツ共有における摩擦によって抑えることができるかを調査すること。
• プラットフォーム基準についての学習を組み合わせた摩擦が、共有コンテンツの品質に与える影響を評価すること。
• ユーザー参加に最小限の影響を及ぼしつつ、情報品質を向上させるスケーラブルで、侵襲性の低い干渉を設計すること。
• 摩擦が、高参加度で低品質なコンテンツを好む認知バイアスやアルゴリズムによる拡大効果を是正できるかを検証すること。
• 行動科学およびエージェントベースモデリングに裏付けられた、現地実験可能なプロトタイプ干渉を提供すること。

提案手法

• エージェントベースのモデルが、ソーシャルメディアの相互作用をシミュレートし、エージェントは参加度（e-distance）に基づいて投稿を共有するが、摩擦があると、認識された品質に基づいて共有する。
• 摩擦は、必須のクイズや自己想起プロンプトによって共有が阻止される確率（f ∈ [0,1]）としてモデル化される。
• 学習は、事前に摩擦にさらされたエージェントが、参加度から品質に基づく選択に行動を変える確率（ℓ ∈ [0,1]）としてモデル化される。
• 投稿の品質（q）と参加度（e）は、線形確率密度関数 P(x) = 2(1−x) から抽出され、高品質かつ高参加度のコンテンツがまれであることを反映している。
• 安定化を判定するために指数移動平均品質（ρ = 0.99）を追跡し、変化量が ε = 10⁻⁵ 未満に下がるとシミュレーションを停止する。
• シミュレーションでは、摩擦（f）と学習（ℓ）の組み合わせを813通りテストし、5つのサンプリングネットワークで10回ずつ実行し、結果を平均化して耐久性を確保する。

Figure 1: Information diffusion process. Each node has a news feed of size $\alpha$ , containing messages recently posted or re-shared by friends. The follower relation is illustrated by dotted arrows pointing from an agent to their friends. Information travels from agents to their followers, along

実験結果

リサーチクエスチョン

• RQ1 摩擦のみでは、低品質コンテンツの拡散は減少するが、その品質は向上しないのか？
• RQ2 コミュニティ基準についての学習と組み合わせた摩擦が、共有コンテンツの平均品質を顕著に向上させることができるか？
• RQ3 コンテンツ品質を最大化しつつ参加を維持するための、摩擦の強度と学習確率の最適なバランスは何か？
• RQ4 再共有による重複投稿の存在が、情報エコシステムの長期的品質に与える影響は何か？
• RQ5 認知バイアスや人気コンテンツのアルゴリズム的拡大が、摩擦干渉の有効性をどの程度損なうのか？

主な発見

• 摩擦のみでは、共有投稿数は減少するが、エージェントが依然として参加度を優先するため、コンテンツの平均品質は向上しない。
• わずかな摩擦（f = 0.01–0.05）と中程度の学習（ℓ = 0.1–0.3）を組み合わせることで、シミュレーション全体で平均投稿品質が顕著に向上する。
• 最も高い平均品質は、低強度の摩擦と中程度の学習で達成され、認知的負荷が十分に高く、共有を妨げないが、熟考を促す最適なバランスがあることが示唆される。
• 干渉は、ベースラインよりも高い品質水準で安定化し、十分なシミュレーション時間経過後に指数移動平均品質が新たな均衡に収束する。
• モデルは、学習がエージェントが参加度ベースから品質ベースへの共有行動にシフトさせることを示しており、摩擦プロンプトへの一度の曝露でも可能である。
• 提案された干渉はスケーラブルで、最小限の干渉的影響を伴う。これは、ユーザー参加に顕著な影響を及げず、プラットフォームの大幅な再設計を要しないからである。

Figure 2: Average post quality $\hat{q}_{T}$ as a function of friction probability $f$ , for different probabilities of learning $\ell$ . The subscript $T$ indicates that average quality is measured at convergence (see Methods). Shaded areas indicate standard errors.