[論文レビュー] Challenges in Combating COVID-19 Infodemic -- Data, Tools, and Ethics

Kaize Ding, Kai Shu+3 more|arXiv (Cornell University)|May 27, 2020

Misinformation and Its Impacts参考文献 8被引用数 4

ひとこと要約

本論文は、AIを用いたCOVID-19の誤情報拡散対策において、データ品質、ツールの有効性、倫理的妥当性の3つの核心的課題を特定する。本論文は、ソーシャルメディアデータ、弱い教師信号、説明可能な検出モデルを活用するフレームワークを提案し、誤情報の特定を可能にする。同時に、プライバシー保護設計と多分野連携の重要性を強調し、公衆衛生危機時における倫理的で、強固かつスケーラブルなソリューションの実現を目指す。

ABSTRACT

While the COVID-19 pandemic continues its global devastation, numerous accompanying challenges emerge. One important challenge we face is to efficiently and effectively use recently gathered data and find computational tools to combat the COVID-19 infodemic, a typical information overloading problem. Novel coronavirus presents many questions without ready answers; its uncertainty and our eagerness in search of solutions offer a fertile environment for infodemic. It is thus necessary to combat the infodemic and make a concerted effort to confront COVID-19 and mitigate its negative impact in all walks of life when saving lives and maintaining normal orders during trying times. In this position paper of combating the COVID-19 infodemic, we illustrate its need by providing real-world examples of rampant conspiracy theories, misinformation, and various types of scams that take advantage of human kindness, fear, and ignorance. We present three key challenges in this fight against the COVID-19 infodemic where researchers and practitioners instinctively want to contribute and help. We demonstrate that these three challenges can and will be effectively addressed by collective wisdom, crowdsourcing, and collaborative research.

研究の動機と目的

• COVID-19パンデミック期における誤情報、陰謀説、スパムの拡散を迅速に抑える必要性に対応すること。
• AIを用いた誤情報拡散抑止に向けた展開において、データの入手可能性、計算ツールの制限、倫理的リスクといった主な課題を特定すること。
• 公平性、透明性、長期的持続可能性を確保するため、協働的で多分野連携型の研究を促進すること。
• ユーザーの信頼を維持しながら、偽のコンテンツを効果的に検出できる、説明可能でプライバシー配慮型のシステムを開発すること。
• 監視や偏りのあるモデルへの過度な依存が引き起こす長期的被害を防ぐため、倫理的配慮を設計プロセスに組み込むこと。

提案手法

• 限定的なラベル付きデータでモデルを訓練するため、ソーシャルメディアのエンゲージメントパターンとフェイクニュース検出スコアを弱い教師信号として活用する。
• 出版者・新聞記事・消費者の関係性をモデル化し、メディアバイアスとユーザー信頼に関する社会学的知見を統合して信頼性を評価する。
• 説明可能なAI技術を用いて、ユーザーのコメントを分析し、フェイクニュース予測に寄与する特定のテキストセグメントを特定する。
• NewsGuardの既知の誤情報ソースとURLを照合するウェブサイトマッチャーを活用し、検出精度を向上させる。
• エンドツーエンド暗号化とピアツーピア通信を採用した接触追跡システムを設計し、プライバシーリスクを最小限に抑える。
• データ収集において透明性とユーザーの同意を重視し、公衆衛生のニーズと市民の自由、民主的価値の両立を図る。

実験結果

リサーチクエスチョン

• RQ1 限定的なラベル付きデータとソーシャルメディア信号を用いて、COVID-19に関する誤情報を効果的に検出し、その理由を説明する方法は何か？
• RQ2 大規模にAIツールを展開して誤情報拡散を抑止するにあたり、主な技術的および倫理的課題は何か？
• RQ3 公衆衛生緊急事態時に収集された健康および行動データのプライバシーを確保し、悪用を防ぐにはどうすればよいか？
• RQ4 協働的で多分野連携型の研究が、誤情報検出システムの強靭性と公平性をどのように向上させられるか？
• RQ5 監視やデータ利用における長期的民主的・倫理的整合性を保ちながら、公衆衛生の緊急度とバランスを取る設計原則は何か？

主な発見

• 1週間で、コロナウイルス関連のスパムの量はほぼ3倍に増加し、世界のスパムの約3％が今やパンデミック関連となった。
• 米国で最もエンゲージメントの高かった上位10のニュースサイトのうち8つが、ウイルスに関する誤った内容を拡散しており、誤情報の高い感染性を示している。
• アメリカ人のほぼ3割が、ウイルスが研究所で作られたバイオ兵器であると信じており、陰謀説の広範な拡散を示している。
• 弱い教師信号とソーシャルエンゲージメントデータを用いて訓練されたフェイクニュース検出モデルは、大量の手動ラベリングを必要とせずに、誤情報の同定において性能が向上した。
• 説明可能なAI手法により、誤ニュース予測に寄与する特定のテキストセグメントやユーザーのコメントを効果的に同定でき、モデルの透明性が向上した。
• エンドツーエンド暗号化と分散型データストレージを採用したプライバシー保護型接触追跡システムは、監視の乱用リスクを低減しつつ、公衆衛生上の有効性を維持できる。