[論文レビュー] The Fake News Spreading Plague: Was it Preventable?

Eni Mustafaraj, Panagiotis Metaxas|arXiv (Cornell University)|Mar 20, 2017

Misinformation and Its Impacts参考文献 5被引用数 36

ひとこと要約

本稿は、2010年のTwitterボムが、民主党上院候補マーヴァ・コーキーリーに関するフェイクニュースを広めたことを分析し、ソーシャルメディア上で誤情報キャンペーンを展開するための体系的で再現可能な手法を明らかにしている。この手法は2016年の米国大統領選挙にまで発展し、Facebookとアルゴリズムによるキュレーションが、金銭的動機を持つフェイクニュースの拡散を可能にした。本稿は、社会的・技術的プラットフォームの脆弱性に対処するため、研究の影響力の強化を提言する。

ABSTRACT

In 2010, a paper entitled "From Obscurity to Prominence in Minutes: Political Speech and Real-time search" won the Best Paper Prize of the Web Science 2010 Conference. Among its findings were the discovery and documentation of what was termed a "Twitter-bomb", an organized effort to spread misinformation about the democratic candidate Martha Coakley through anonymous Twitter accounts. In this paper, after summarizing the details of that event, we outline the recipe of how social networks are used to spread misinformation. One of the most important steps in such a recipe is the "infiltration" of a community of users who are already engaged in conversations about a topic, to use them as organic spreaders of misinformation in their extended subnetworks. Then, we take this misinformation spreading recipe and indicate how it was successfully used to spread fake news during the 2016 U.S. Presidential Election. The main differences between the scenarios are the use of Facebook instead of Twitter, and the respective motivations (in 2010: political influence; in 2016: financial benefit through online advertising). After situating these events in the broader context of exploiting the Web, we seize this opportunity to address limitations of the reach of research findings and to start a conversation about how communities of researchers can increase their impact on real-world societal issues.

研究の動機と目的

• 2010年のマサチューセッツ州上院選挙期におけるTwitter上での一連の誤情報キャンペーン、通称「Twitterボム」のメカニズムを記録・体系化すること。
• このような手法が2016年米国大統領選挙に至り、Facebookが人間によるキュレーションをアルゴリズムに置き換えたことで、フェイクニュースの広範な拡散が可能になったことを追跡すること。
• 特にプライベートグループや初期段階の誤情報の拡散をめぐる、現在の研究者がFacebookデータにアクセスできる範囲の限界を浮き彫りにすること。
• Facebook、Google、Twitterなどのプラットフォームでコンテンツをモデレートする際の、人間とアルゴリズムの役割のバランスについて疑問を呈すること。
• 誤情報やプラットフォームガバナンスといった現実の社会的課題に対処するため、研究の影響力を高めるべきであることを提言すること。

提案手法

• 2010年マサチューセッツ州上院選挙期に、キーワード「coakley」と「brown」を含むリアルタイムのTwitterデータを収集した。
• 138分間にわたり、9つの新規に作成された匿名のTwitterアカウントから発信された995件のツイートを特定・分析した。これらはすべて、1つの架空のウェブサイトを宣伝するものであった。
• リツイートおよびリプライを受け取ったユーザーのフォロワーネットワークを分析することで、誤情報の拡散経路を追跡した。
• Twitter APIデータとTwitterTrailsやTruthyといったツールを用いて、リツイートの流れを再構築し、ウワサの伝搬を監視した。
• 2016年8月にFacebookのトレンドニュースアルゴリズムが人間によるキュレーションから機械学習に移行した過程をマッピングし、フェイクニュースの増加と関連づけた。
• Facebookの後続対応、特に第三者fact-checkersによる「Disputed」ラベルの導入や、共有前のユーザー警告プロンプトの導入を評価した。

実験結果

リサーチクエスチョン

• RQ1 2010年のTwitterボムキャンペーンはどのように実行されたのか。また、その急速な拡散を可能にした技術的・社会的メカニズムは何か。
• RQ2 ソーシャルメディアプラットフォーム上で誤情報を広めるための再現可能なレシピの核心的要素は何か。
• RQ3 2016年にFacebookのトレンドニュース機能で人間エディタが機械学習アルゴリズムに置き換えられたことで、フェイクニュースの拡散がどのように促進されたのか。
• RQ4 2016年のフェイクニュースブームに対して、事前の警告にもかかわらず、なぜ研究者が早期に検知・対応できなかったのか。
• RQ5 Facebook や Twitter などの大規模な社会的・技術的プラットフォームでコンテンツをモデレートするにあたり、人間の監視とアルゴリズムシステムが果たすべき役割は何か。

主な発見

• 2010年のTwitterボムは、9つの匿名アカウントが138分間で573人のユーザーに929件のリプライツイートを送信し、すべてが1つの架空のウェブサイトを宣伝していた。
• 受信者の96％（573人中550人）は、直前の4時間以内にマサチューセッツ州上院選挙について活発に議論していたことから、関与しているコミュニティを的確に標的にしたことが示された。
• 受信者の25％（573人中143人）がリツイートしたため、誤情報は自然なネットワーク拡散によって、推定61,732人のユーザーにさらされた。
• このキャンペーンは、既存のユーザー参加度とネットワーク構造を活用することで成功した。新規アカウントがフォロワーを必要としないリプライツイートを用いることで、認知度を急速に拡大した。
• Facebookが2016年8月にトレンドニュースのアルゴリズムを人間キュレーションから機械学習に移行したことで、フェイクニュースがウイルス的拡散を達成できるようになった。これはBuzzFeedの報告でも裏付けられている。
• 「Disputed」ラベルや共有警告の導入にもかかわらず、Facebookは依然としてユーザーがマークされたコンテンツを共有できるため、現在の対策の有効性は限定的である。