[论文解读] Detecting fake news for the new coronavirus by reasoning on the Covid-19 ontology

Adrian Groza|arXiv (Cornell University)|Apr 26, 2020

Misinformation and Its Impacts参考文献 20被引用 26

一句话总结

本文提出了一种系统，通过将可信的医学知识和不可信的声明形式化为描述逻辑（DL），并利用自动化推理识别不一致之处，以检测关于COVID-19的虚假新闻。该系统利用FRED自然语言处理转描述逻辑转换器和Racer推理引擎，检测声明（例如：'Covid-19仅影响老年人'）与经验证的医学本体之间的冲突，并生成解释以增强透明度。

ABSTRACT

In the context of the Covid-19 pandemic, many were quick to spread deceptive information. I investigate here how reasoning in Description Logics (DLs) can detect inconsistencies between trusted medical sources and not trusted ones. The not-trusted information comes in natural language (e.g. "Covid-19 affects only the elderly"). To automatically convert into DLs, I used the FRED converter. Reasoning in Description Logics is then performed with the Racer tool.

研究动机与目标

• 为应对疫情期间关于COVID-19的欺骗性信息泛滥问题。
• 开发一种自动化方法，检测不可信声明与经验证的医学知识之间的不一致之处。
• 通过将医学事实与谬误形式化为机器可处理的本体，支持事实核查工作。
• 利用本体推理工具生成人类可读的冲突检测解释。
• 为基于语义推理的可扩展、自动化健康虚假信息检测奠定基础。

提出的方法

• 使用现有来源中的可信医学知识构建核心COVID-19本体。
• 利用FRED自然语言处理转描述逻辑转换器，将不可信的自然语言声明（例如：'Covid-19仅影响老年人'）转换为形式化的DL公理。
• 将形式化的可信事实与不可信声明整合到单一本体中以支持推理。
• 使用Racer推理引擎检测逻辑不一致，例如个体被分类到互斥概念中。
• 利用RacerPro的解释功能识别导致不满足性或包含性冲突的具体公理。
• 应用本体口语化工具，将技术性推理解释转换为自然语言，以提升用户理解。

实验结果

研究问题

• RQ1 在描述逻辑中进行自动化推理能否检测到不可信声明与经验证的COVID-19医学知识之间的不一致？
• RQ2 FRED转换器在将自然语言谬误转化为可用于推理的形式化DL公理方面效果如何？
• RQ3 推理工具如Racer能否识别出由错误声明引发的逻辑冲突（例如：不满足的概念）？
• RQ4 如何将技术性推理解释转化为非专家用户可理解的自然语言？
• RQ5 在医学领域识别虚假新闻时，哪些知识模式或冲突检测规则最为有效？

主要发现

• 当不可信声明与经验证的医学事实相矛盾时，系统成功检测到逻辑不一致，例如声称SARS-CoV-2既是病毒又是细菌。
• 当声明断言COVID-19既是传染病又不是疾病时，引发了不一致，违反了包含性与互斥性约束。
• 当存在冲突公理被合并时，Racer推理引擎正确识别出不满足的概念，表明存在逻辑不一致。
• RacerPro的解释功能使冲突可追溯至具体公理，增强了透明度。
• FRED与Racer的集成实现了无需手动编写规则的虚假信息自动化检测。
• 该方法证明了利用形式化知识的语义推理实现健康虚假信息自动化检测的可行性。