[論文レビュー] Online Disinformation and the Role of Wikipedia

Diego Sáez-Trumper|arXiv (Cornell University)|Oct 14, 2019

Misinformation and Its Impacts参考文献 45被引用数 14

ひとこと要約

本稿は、意図的で非偶発的な誤情報としての誤情報の定義に注目し、Wikipediaにおけるオンライン誤情報の対策に向けた実行可能な戦略を特定するための文献レビューを実施している。本稿は、協調的ブリガードやボットといった拡散メカニズムを分析し、主に手動によるパトロールとコミュニティモデレーションに依存する現在の防御策を評価している。また、協調的攻撃の検出やソース信頼性の評価に向け、高度な機械学習ツールの導入を提唱している。特に、リソースが乏しい言語版において顕著である。

ABSTRACT

The aim of this study is to find key areas of research that can be useful to fight against disinformation on Wikipedia. To address this problem we perform a literature review trying to answer three main questions: (i) What is disinformation? (ii) What are the most popular mechanisms to spread online disinformation? and (iii) Which are the mechanisms that are currently being used to fight against disinformation?. In all these three questions we take first a general approach, considering studies from different areas such as journalism and communications, sociology, philosophy, information and political sciences. And comparing those studies with the current situation on the Wikipedia ecosystem. We conclude that in order to keep Wikipedia as free as possible from disinformation, it is necessary to help patrollers to early detect disinformation and assess the credibility of external sources. More research is needed to develop tools that use state-of-the-art machine learning techniques to detect potentially dangerous content, empowering patrollers to deal with attacks that are becoming more complex and sophisticated.

研究の動機と目的

• 誤情報の定義を、特に欺瞞の意図に焦点を当てて、他の形態の誤情報と区別できるようにすること。
• オンラインで誤情報を広める主なメカニズムを分析すること、特に協調的オンラインブリガード、ボット、ソック・パペットアカウントを含む。
• Wikipediaにおける誤情報対抗策として現在用いられている方法を評価すること、特に手動による事実確認とコミュニティモデレーションを対象とする。
• 現在の防御におけるギャップを特定すること、特にスケーラブルでAIを活用した協調的誤情報キャンペーンの検出ツールの欠如に焦点を当てる。
• 最先端の機械学習を活用した研究の方向性を提案することにより、パトロール支援と、特にリソースが乏しいWikipediaコミュニティにおけるソース信頼性評価の向上を図ること。

提案手法

• ジャーナリズム、社会学、哲学、政治学、コンピュータサイエンスの分野を横断する文献レビューを実施し、誤情報の定義とその拡散を分析すること。
• 一般的な誤情報の定義と、Wikipediaの中立的立場（NPOV）と検証可能性というコアな品質管理基準の文脈を比較すること。
• 誤情報拡散のメカニズムをマッピングすること、特に協調的ブリガード、ボットネットワーク、クリックファーム、ソック・パペットアカウントを含め、リソースが乏しいWikipediaコミュニティに与える影響に焦点を当てる。
• 現在の誤情報対抗措置を評価すること、手動による事実確認、反バイラットボット、および自動的品質評価のためのORESのようなツールを含む。
• WikipediaとWikidataが、誤情報キャンペーンの標的である一方で、YouTube や Facebook などのプラットフォームが使用する自動事実確認システムの信頼できる基準としての二重の役割を果たしていることの評価。
• 人間のパトロール支援と、複数ユーザーおよび言語をまたがる協調的攻撃のスケール検出を可能にする高度な機械学習技術の統合を提言すること、例えば外部ソースの信頼性スコアリングや政治的傾向検出を含む。

実験結果

リサーチクエスチョン

• RQ1 誤情報は、意図の観点から他の誤情報形態と区別できるように、どのように定義できるか？
• RQ2 オンラインで誤情報を広めるために最も一般的に用いられるメカニズムは何か？ また、それらはWikipediaおよびそのコミュニティにどのように具体的に標的とされるか？
• RQ3 Wikipediaで誤情報を検出・対抗するために現在用いられているメカニズムは何か？ それらのスケーラビリティと有効性における制限は何か？
• RQ4 機械学習技術は、リソースが乏しい言語版において、特に協調的誤情報キャンペーンの検出を支援するために、どのようにWikipediaのパトロールに適応できるか？
• RQ5 Wikidata や Wikipedia は、自動事実確認システムの信頼できる基準としてどれほど有効に機能するか？ また、攻撃下でそれらに依存することのリスクは何か？

主な発見

• 誤情報は、誤った信念を生じさせることを意図した非偶発的な誤情報として定義するのが最適であり、これは無意識の誤情報とは明確に区別される。
• 誤情報拡散の最も一般的なメカニズムには、協調的オンラインブリガード、ボットネットワーク、およびソック・パペットの使用が含まれ、リソースが乏しいWikipediaコミュニティは特に脆弱である。
• 現在のWikipediaにおける誤情報防御は、手動によるパトロールとコミュニティモデレーションに大きく依存しており、その潜在能力にもかかわらず、自動化された機械学習ツールの統合は限定的である。
• WikipediaとWikidataは二重の役割を果たしている：誤情報キャンペーンの標的であり、YouTube や Facebook などのプラットフォームが使用する自動事実確認システムの信頼できる基準としても機能している。
• 複数ユーザーおよび言語をまたがる協調的攻撃を検出できるスケーラブルでAIを活用したツールの研究開発が、極めて重要である。特に、リソースが乏しいWikipediaエディションにおいて顕著である。
• Wikipediaにおける既存の機械学習アプリケーション、例えば ORES は、活用が不十分であり、主に個々の編集に焦点を当てており、システム的かつ協調的なキャンペーンには対応していない。