[論文レビュー] Human-Misinformation interaction: Understanding the interdisciplinary approach needed to computationally combat false information

Alireza Karduni|arXiv (Cornell University)|Mar 17, 2019

Misinformation and Its Impacts参考文献 87被引用数 14

ひとこと要約

本論文は、情報源、コンテンツ、消費者の3つのコアな側面を分析することで、計算的手法による誤情報対策のための学際的枠組みを提唱する。コンピュータサイエンス分野におけるコンテンツ検出と情報源の検証に焦点が当たっている現状を批判し、確認バイアスやエコ・チェンバーといった心理的・社会的要因に配慮した消費者指向のツールの欠如という深刻なギャップを指摘。誤情報に対する人間のレジリエンスを高めるために、HCIを踏まえた使いやすさ重視のソリューションの開発を提言する。

ABSTRACT

The prevalence of new technologies and social media has amplified the effects of misinformation on our societies. Thus, it is necessary to create computational tools to mitigate their effects effectively. This study aims to provide a critical overview of computational approaches concerned with combating misinformation. To this aim, I offer an overview of scholarly definitions of misinformation. I adopt a framework for studying misinformation that suggests paying attention to the source, content, and consumers as the three main elements involved in the process of misinformation and I provide an overview of literature from disciplines of psychology, media studies, and cognitive sciences that deal with each of these elements. Using the framework, I overview the existing computational methods that deal with 1) misinformation detection and fact-checking using Content 2) Identifying untrustworthy Sources and social bots, and 3) Consumer-facing tools and methods aiming to make humans resilient to misinformation. I find that the vast majority of works in computer science and information technology is concerned with the crucial tasks of detection and verification of content and sources of misinformation. Moreover, I find that computational research focusing on Consumers of Misinformation in Human-Computer Interaction (HCI) and related fields are very sparse and often do not deal with the subtleties of this process. The majority of existing interfaces and systems are less concerned with the usability of the tools rather than the robustness and accuracy of the detection methods. Using this survey, I call for an interdisciplinary approach towards human-misinformation interaction that focuses on building methods and tools that robustly deal with such complex psychological/social phenomena.

研究の動機と目的

• ソーシャルメディアや新技術によって拡大する誤情報の社会的脅威に対処するため。
• コンテンツ検出と情報源の検証に過剰に注力するが、人間の認知的・社会的要因を軽視する現在の計算的手法の限界を特定するため。
• HCIや消費者向けシステム分野において、人間中心の計算ツールが極めて乏しく、特にその分野に不足していることを浮き彫りにするため。
• 心理学、認知科学、メディア研究、コンピュータサイエンスの知見を統合した、統合的で学際的な研究枠組みを構築し、誤情報を効果的に抑止する耐久性があり使いやすいツールを開発するため。
• 確認バイアスや事前の露出といった心理的バイアスを計算システムが考慮する必要性を強調し、事実確認作業の効果を損なう要因を是正するため。

提案手法

• 誤情報との相互作用の3要素として、情報源、コンテンツ、消費者を核とする三段階フレームワークを採用する。
• 誤情報の消費に伴う心理的・社会的メカニズムを理解するため、心理学、認知科学、メディア研究分野の学際的文献を調査する。
• 計算的手法を3つの分野に分類する：(1) 語彙的・視覚的・配布パターン分析を用いたコンテンツ検出と自動的事実確認；(2) 行動的・ネットワーク的特徴を用いたボット検出を含む情報源の検証；(3) ビジュアライゼーションと自動スコアを備えた消費者向けツール。
• 既存の消費者向けシステムの使いやすさ、耐久性、心理的知見の統合度を評価し、認知バイアスに対処する深度に欠けることが判明。
• 純粋に正確性に注力する検出システムから、使いやすさ、認知的負荷、心理的レジリエンスを考慮した人間中心の設計に移行するべきであると提言。
• コンピュータサイエンティスト、心理学者、社会科学者による協働研究を推進し、人間レベルでの誤情報抑止に効果的なツールを共同で設計するべきであると主張。

実験結果

リサーチクエスチョン

• RQ1 確認バイアス、事前の露出、エコ・チェンバーといった心理的・社会的要因が、人間の誤情報への感受性にどのように影響するか？
• RQ2 高精度であっても、現在の誤情報検出・事実確認ツールが、ユーザーの信念を変えることができないのはなぜか？
• RQ3 既存の消費者向けシステムが、誤情報消費者の複雑な意思決定プロセスに対処するうえで、どのような主な制限を抱えているか？
• RQ4 認知バイアスと誤情報消費における社会的圧力に対処するため、計算ツールをどのように再設計すべきか？
• RQ5 スケールで誤情報を効果的に抑止する耐久性があり、使いやすく、心理的知見に基づいたツールを構築するには、どのような学際的研究ルートが必要か？

主な発見

• コンピュータサイエンス分野における計算研究の大部分は、コンテンツ検出と情報源の検証に注力しており、誤情報消費の心理的・行動的側面にはほとんど注目されていない。
• HCIおよび関連分野における消費者向けツールは極めて乏しく、使いやすさを軽視し、心理学や認知科学の深い知見を統合していない。
• 既存のシステムは、確認バイアスや選択的露出といった認知バイアスが信念形成に顕著に影響するため、現実世界での有効性をほとんど評価せず、バイアスを考慮しない。
• 誤情報を繰り返すことで是正する事実確認作業は、誤った信念を強化するだけであり、逆効果となることがある。
• 誤情報の拡散における社会的圧力、フィルターバブル、エコ・チェンバーの複雑な相互作用に対処する計算ツールに深刻なギャップが存在する。
• 現実世界の文脈で、誤情報を検出するだけでなく、ユーザーが情報に基づいた意思決定をし、レジリエントな判断を下せるように支援するための包括的で学際的なアプローチが不可欠である。