[論文レビュー] An Agenda for Disinformation Research

Nadya Bliss, Elizabeth Bradley+5 more|arXiv (Cornell University)|Dec 15, 2020

Misinformation and Its Impacts被引用数 10

ひとこと要約

このホワイトペーパーは、計算ツールを活用して誤情報や誤解を招くコンテンツを検出・分析・対抗する仕組みを構築することで、デジタル時代の誤情報と戦うための多分野的研究アジェンダを提言する。本稿は、計算科学、社会科学、政策分野の連携による研究が、誤情報ネットワークの理解、検出システムの改善、情報エコシステムにおける信頼回復に不可欠であることを強調する。

ABSTRACT

In the 21st Century information environment, adversarial actors use disinformation to manipulate public opinion. The distribution of false, misleading, or inaccurate information with the intent to deceive is an existential threat to the United States--distortion of information erodes trust in the socio-political institutions that are the fundamental fabric of democracy: legitimate news sources, scientists, experts, and even fellow citizens. As a result, it becomes difficult for society to come together within a shared reality; the common ground needed to function effectively as an economy and a nation. Computing and communication technologies have facilitated the exchange of information at unprecedented speeds and scales. This has had countless benefits to society and the economy, but it has also played a fundamental role in the rising volume, variety, and velocity of disinformation. Technological advances have created new opportunities for manipulation, influence, and deceit. They have effectively lowered the barriers to reaching large audiences, diminishing the role of traditional mass media along with the editorial oversight they provided. The digitization of information exchange, however, also makes the practices of disinformation detectable, the networks of influence discernable, and suspicious content characterizable. New tools and approaches must be developed to leverage these affordances to understand and address this growing challenge.

研究の動機と目的

• デジタル情報時代における民主的機関、科学的信頼性、社会的結束に対する誤情報の増大する脅威に対処すること。
• 計算・通信技術が誤情報の伝播速度、規模、範囲を飛躍的に拡大させ、共有される現実感を損なっていることを認識すること。
• 誤情報の検出、影響力ネットワークのマッピング、懸念されるコンテンツの特徴付けに向けた新しいツールと手法の必要性を特定すること。
• 計算科学、社会科学、政策専門家間の協働を促進し、効果的な対策を講じること。
• スケールに応じた誤情報の検出、理解、緩和を改善するための調整された研究アジェンダを確立すること。

提案手法

• 言語的パターン、メタデータ、伝播ダイナミクスの分析を通じて、計算的手法を用いて誤情報を検出するツールを開発すること。
• 社会的ネットワーク分析を用いて、誤情報の伝播における主要な参加者と経路を特定する影響力ネットワークのマッピング。
• 信頼性、出典の信頼性、共有の時間的パターンの自動分析を通じて、懸念されるコンテンツを特徴付けること。
• 社会科学の知見を統合し、誤情報への人間の反応行動をモデル化し、情報源への信頼度を評価すること。
• デジタル化されたデータを活用して、情報エコシステムのリアルタイムで大規模な監視を可能にすること。
• 技術的検出と社会的・政治的文脈を統合する、多分野的研究フレームワークの設計。

実験結果

リサーチクエスチョン

• RQ1 計算的手法を用いて、複数のデジタルプラットフォーム全体で誤情報を大規模に検出・特徴付ける方法は何か？
• RQ2 誤情報ネットワークの構造的・行動的パターンは何か。また、それらは有機的な情報伝播とはどのように異なるか？
• RQ3 誤情報キャンペーンは、デジタル通信インfraストラクチャの弱みと、制度への信頼の欠如をどのように利用しているか？
• RQ4 アルゴリズムによる拡大とプラットフォーム設計は、誤った内容の拡散にどのような役割を果たしているか？
• RQ5 多分野的研究は、計画的な操作に対して情報エコシステムのレジリエンスをどのように向上させられるか？

主な発見

• 誤情報は、正当なニュース、専門家、共有される現実感に対する信頼を侵すことで、民主的機関に存続的脅威をもたらす。
• 計算・通信技術のおかげで、誤情報の拡散は前例のない速度と規模で行われるようになった。これにより、伝統的なメディアのゲートキーパーに依存する必要が減少した。
• デジタル化により、誤情報のパターン検出、影響力ネットワークのマッピング、データ駆動型の手法による懸念されるコンテンツの特徴付けが可能になった。
• 誤情報を効果的に検出し、対抗するためのツールを開発するにあたり、調整された多分野的研究の緊急性が極めて高い。
• 本稿は、計算科学、社会科学、政策分野の連携を重視する基盤的研究アジェンダを確立し、今後の誤情報研究を導くものである。
• 提示されたアジェンダは、技術的および社会的介入を通じて情報エコシステムへの信頼を回復させることを目的としており、社会のレジリエンス強化に貢献する。