[論文レビュー] Detecting fake news for the new coronavirus by reasoning on the Covid-19 ontology

Adrian Groza|arXiv (Cornell University)|Apr 26, 2020

Misinformation and Its Impacts参考文献 20被引用数 26

ひとこと要約

本稿では、信頼できる医療知識と信頼できない主張を記述論理（DL）で形式化し、自動推論を用いて矛盾を特定することで、新型コロナウイルス関連のフェイクニュースを検出するシステムを提案する。FRED NLP-to-DLコンバータとRacer推論エンジンを活用し、『新型コロナウイルスは高齢者にのみ影響する』などの主張と、検証済みの医療オントロジーとの間に生じる矛盾を検出。透明性を高めるために、説明を生成する。

ABSTRACT

In the context of the Covid-19 pandemic, many were quick to spread deceptive information. I investigate here how reasoning in Description Logics (DLs) can detect inconsistencies between trusted medical sources and not trusted ones. The not-trusted information comes in natural language (e.g. "Covid-19 affects only the elderly"). To automatically convert into DLs, I used the FRED converter. Reasoning in Description Logics is then performed with the Racer tool.

研究の動機と目的

• パンデミック期における新型コロナウイルスに関する誤解を広める情報の拡散に対処すること。
• 信頼できない主張と検証済みの医療知識との間に生じる矛盾を自動的に検出する手法を開発すること。
• 機械処理可能なオントロジーに医療的事実と都市伝説を形式化することで、事実確認を支援すること。
• オントロジー推論ツールを用いて、検出された矛盾の説明を人間が理解できる自然言語に変換すること。
• 意味的推論を用いた、スケーラブルで自動化された健康に関する誤情報検出の基盤を構築すること。

提案手法

• 既存の情報源からの信頼できる医療知識を用いて、コアな新型コロナウイルスオントロジーを構築する。
• FRED NLP-to-記述論理コンバータを用いて、信頼できない自然言語の主張（例：『新型コロナウイルスは高齢者にのみ影響する』）を形式的なDL公理に変換する。
• 形式化された信頼できる事実と信頼できない主張を統合し、1つのオントロジーとして統合して推論を行う。
• Racer推論エンジンを用いて、論理的矛盾（例：個体が排反な概念に分類されていること）を検出する。
• RacerProの説明機能を活用し、不充足性や包含関係の矛盾を引き起こす特定の公理を同定する。
• オントロジーの自然言語化ツールを適用し、技術的な推論説明をユーザーが理解可能な自然言語に変換する。

実験結果

リサーチクエスチョン

• RQ1 記述論理における自動推論は、信頼できない主張と検証済みの医療知識との間に生じる矛盾を検出できるか？
• RQ2 FREDコンバータは、自然言語の都市伝説を推論に適した形式的DL公理に変換する際にどの程度効果的か？
• RQ3 Racerのような推論ツールは、誤った主張によって生じる論理的矛盾（例：不充足な概念）を特定できるか？
• RQ4 技術的な推論説明を、専門外のユーザーが理解できる自然言語にどのように変換できるか？
• RQ5 医療分野におけるフェイクニュースの特定に最も効果的な知識パターンや矛盾検出ルールは何か？

主な発見

• 信頼できない主張が検証済みの医療的事実と矛盾する場合、システムは論理的矛盾を正常に検出できた。例：SARS-CoV-2がウイルスであると同時に細菌であると主張した場合。
• COVID-19が感染症であると同時に「病気でない」と主張する主張により、包含関係と排反性の制約に違反する矛盾が生じた。
• Racer推論エンジンは、矛盾する公理が統合された際に不充足な概念を正しく特定し、論理的不整合を示した。
• RacerProの説明機能により、矛盾の原因となった特定の公理への追跡が可能になり、透明性が向上した。
• FREDとRacerの統合により、手動でのルール作成を必要とせず、誤情報の自動検出が可能になった。
• 本手法は、形式化された知識に基づく意味的推論を用いた、健康に関する誤情報検出の実現可能性を示している。