[論文レビュー] Incentivizing the Dissemination of Truth Versus Fake News in Social Networks

Abbas Ehsanfar, Mo Mansouri|arXiv (Cornell University)|Apr 7, 2018

Opinion Dynamics and Social Influence参考文献 2被引用数 3

ひとこと要約

この論文は、ユーザーが共同でニュースの検証に貢献する際のボランティアのジレンマとして、ソーシャルネットワークにおける真実とフェイクニュースの拡散をモデル化している。共有報酬（ニュース購読）を通じて、真実の情報拡散を促す仕組みを示しており、ネットワークシステム内での個人のインcentiveと集団的真実追求の一致を図ることで、フェイクニュースの優位性を低下させることを示している。

ABSTRACT

The concept of truth, as a public good is the production of a collective understanding, which emerges from a complex network of social interactions. The recent impact of social networks on shaping the perception of truth in political arena shows how such perception is corroborated and established by the online users, collectively. However, investigative journalism for discovering truth is a costly option, given the vast spectrum of online information. In some cases, both journalist and online users choose not to investigate the authenticity of the news they receive, because they assume other actors of the network had carried the cost of validation. Therefore, the new phenomenon of "fake news" has emerged within the context of social networks. The online social networks, similarly to System of Systems, cause emergent properties, which makes authentication processes difficult, given availability of multiple sources. In this study, we show how this conflict can be modeled as a volunteer's dilemma. We also show how the public contribution through news subscription (shared rewards) can impact the dominance of truth over fake news in the network.

研究の動機と目的

• ユーザーが自由に他人の努力に依存するため、情報の検証を怠る傾向があるソーシャルネットワークにおけるフェイクニュースの拡散という課題に対処すること。
• 分散型信頼性を持つネットワーク環境において、ニュースの共同検証が公共財としてどのように生じるかを分析すること。
• サブスクリプションなどの共有報酬が、ユーザーが真実の内容を検証し共有するようインcentivizeする役割を調査すること。
• 個人のインcentiveに影響を受けるシステムレベルの顕在的行動として、真実とフェイクニュースの拡散ダイナミクスをモデル化すること。
• 特に報酬共有メカニズムを含むシステム設計が、ネットワーク行動を真実の報告に向かわせるようにどのように設計できるかを評価すること。

提案手法

• 各ユーザーがニュースの検証に努力を払うか、他の人の努力に依存するかを決定するボランティアのジレンマとして問題をモデル化する。
• サブスクライバーが共同で検証作業を資金提供する共有報酬メカニズムを導入し、貢献者間で利益を分配する。
• 非一様なユーザーインセンティブを持つネットワークにおける均衡行動を分析するため、ゲーム理論的モデリングを用いる。
• 報酬共有構造の変化が真実の拡散に与える影響をシミュレーションすることで、ネットワークレベルの結果を分析する。
• 相互接続されたソーシャルネットワークにおける顕在的行動を理解するために、システム・オブ・システムズ（SoS）工学の原則を適用する。
• 解析的手法とシミュレーションを用いて、さまざまなインcentive構造下での真実とフェイクニュースの安定性および優位性を評価する。

実験結果

リサーチクエスチョン

• RQ1 ボランティアのジレンマフレームワークは、ソーシャルネットワークにおけるニュース検証の失敗をどのように説明できるか？
• RQ2 共有報酬は、ユーザーが真実の情報を検証し拡散するようインcentivizeする上で、どのような役割を果たすか？
• RQ3 ネットワーク環境下で真実のコンテンツがフェイクニュースを上回る状況は、どのような条件下で生じるか？
• RQ4 ネットワーク構造と報酬共有メカニズムは、集団的真実追求行動の出現にどのように影響するか？
• RQ5 集団的利益と一致するように設計されたシステムレベルのインcentiveは、自由に他人の努力に依存する行動を減少させ、検証済み情報の拡散を増加させることができるか？

主な発見

• ボランティアのジレンマフレームワークは、他人の努力に依存する自由な行動によって、個人がニュース検証に動機付けられないという状況を的確に捉えている。
• ニュース購読による共有報酬は、フェイクニュースよりも真実の情報が拡散される可能性を顕著に高める。
• 検証コストが共有され、ユーザーが自身の検証努力に対して公正な報酬を得ると見なす場合、ネットワーク全体で真実の優位性が顕在する。
• モデルは、中程度の共有報酬レベルですでに均衡状態が検証率の上昇に向かってシフトすることを示している。
• 特に集団的利益と一致するように設計されたシステムレベルのインcentiveは、フェイクニュース拡散の自然な傾向を是正できる。
• 分散型システムであっても、戦略的な報酬設計を通じて、ソーシャルネットワークにおける顕在的行動（例：真実の拡散）を誘導することが可能である。