[논문 리뷰] Detecting fake news for the new coronavirus by reasoning on the Covid-19 ontology

Adrian Groza|arXiv (Cornell University)|2020. 04. 26.

Misinformation and Its Impacts참고 문헌 20인용 수 26

한 줄 요약

이 논문은 신뢰할 수 있는 의료 지식과 신뢰할 수 없는 주장들을 기술 논리학(DLs)으로 형식화한 후, 자동 추론을 사용하여 모순을 식별함으로써 코로나19에 관한 가짜 뉴스를 탐지하는 시스템을 제안한다. 이는 FRED 자연어 처리에서 기술 논리학으로의 변환기와 Racer 추론기의 활용을 통해, 예를 들어 '코로나19는 오직 노인에게만 영향을 미친다'와 같은 주장과 검증된 의료 온톨로지 간의 충돌을 탐지하며, 투명성을 위해 설명을 생성한다.

ABSTRACT

In the context of the Covid-19 pandemic, many were quick to spread deceptive information. I investigate here how reasoning in Description Logics (DLs) can detect inconsistencies between trusted medical sources and not trusted ones. The not-trusted information comes in natural language (e.g. "Covid-19 affects only the elderly"). To automatically convert into DLs, I used the FRED converter. Reasoning in Description Logics is then performed with the Racer tool.

연구 동기 및 목표

• 팬데믹 기간 동안 기만적인 정보의 확산을 해결하기 위해.
• 불신뢰할 수 있는 주장과 검증된 의료 지식 간의 모순을 자동으로 탐지하기 위한 방법을 개발하기 위해.
• 기계 처리 가능한 온톨로지에 의료 사실과 오해를 형식화하여 사실 확인을 지원하기 위해.
• 온톨로지 추론 도구를 사용해 탐지된 충돌의 인간이 이해할 수 있는 설명을 생성하기 위해.
• 의료 분야에서의 건강 정보 오남용에 대한 확장 가능한 자동 탐지 기반을 마련하기 위해.

제안 방법

• 기존 자료에서 신뢰할 수 있는 의료 지식을 바탕으로 핵심 코로나19 온톨로지를 구성한다.
• 불신뢰할 수 있는 자연어 주장(예: '코로나19는 오직 노인에게만 영향을 미친다')를 형식적인 DL 공리로 변환하기 위해 FRED 자연어 처리에서 기술 논리학으로의 변환기를 사용한다.
• 형식화된 신뢰할 수 있는 사실과 불신뢰할 수 있는 주장을 하나의 온톨로지로 통합하여 추론을 수행한다.
• Racer 추론기를 사용해 논리적 모순을 탐지하며, 예를 들어 개체가 상호 배타적인 개념에 동시에 속하는 경우를 포함한다.
• RacerPro의 설명 기능을 활용해 불일치나 포함 관계 충돌을 일으키는 구체적인 공리를 식별한다.
• 온톨로지 언어화 도구를 적용하여 기술적 추론 설명을 인간이 이해할 수 있는 자연어로 변환하여 사용자 이해를 돕는다.

실험 결과

연구 질문

• RQ1 기본 논리학에서의 자동 추론이 코로나19에 관한 불신뢰할 수 있는 주장과 검증된 의료 지식 간의 모순을 탐지할 수 있는가?
• RQ2 FRED 변환기가 자연어로 된 오해를 추론을 위한 형식적인 DL 공리로 변환하는 데 얼마나 효과적인가?
• RQ3 Racer와 같은 추론 도구가 잘못된 주장으로 인해 발생하는 논리적 충돌(예: 불일치 가능한 개념)을 식별할 수 있는가?
• RQ4 기술적 추론 설명을 비전문가 사용자가 이해할 수 있는 자연어로 변환하는 방법은 무엇인가?
• RQ5 의료 분야에서 가짜 뉴스를 식별하는 데 가장 효과적인 지식 패턴이나 충돌 탐지 규칙은 무엇인가?

주요 결과

• 불신뢰할 수 있는 주장이 검증된 의료 사실과 모순될 경우, 시스템이 논리적 모순을 성공적으로 탐지하였다. 예를 들어, SARS-CoV-2가 동시에 바이러스이자 박테리아라고 주장하는 경우.
• COVID-19가 전염병이면서도 질병이 아니라고 주장할 경우, 포함 관계 및 상호 배타성 제약 위반으로 인해 모순이 발생하였다.
• Racer 추론기가 충돌하는 공리를 통합했을 때 불일치 가능한 개념을 정확히 식별하여 논리적 비일관성을 신호로 보냈다.
• RacerPro의 설명 기능 덕분에 충돌 원인을 특정 공리로 추적할 수 있었으며, 투명성을 향상시켰다.
• FRED와 Racer의 통합을 통해 수동 규칙 작성 없이도 오남용 정보의 자동 탐지를 가능하게 하였다.
• 이 접근법은 형식화된 지식에 기반한 의미 추론을 활용한 건강 정보 오남용 자동 탐지의 가능성에 대한 실현 가능성을 보여주었다.