[논문 리뷰] Combining Machine Learning with Knowledge Engineering to detect Fake News in Social Networks-a survey

Sajjad Ahmed, Knut Hinkelmann외 1명|arXiv (Cornell University)|2022. 01. 20.

Misinformation and Its Impacts인용 수 11

한 줄 요약

이 종합 검토는 기계 학습과 지식 공 ing 기반의 하이브리드 접근 방식을 통해 소셜 네트워크에서 위조 뉴스를 탐지하는 방법을 제안한다. 데이터 기반 모델과 전문 지식 시스템을 통합함으로써 텍스트 분류, 입장 탐지, 사실 확인 기법을 활용함으로써, 공개 데이터셋에서 단일 방법보다 정확도와 강건성 면에서 뛰어난 성능을 보이는 하이브리드 프레임워크가 성능이 뛰어남을 입증한다.

ABSTRACT

Due to extensive spread of fake news on social and news media it became an emerging research topic now a days that gained attention. In the news media and social media the information is spread highspeed but without accuracy and hence detection mechanism should be able to predict news fast enough to tackle the dissemination of fake news. It has the potential for negative impacts on individuals and society. Therefore, detecting fake news on social media is important and also a technically challenging problem these days. We knew that Machine learning is helpful for building Artificial intelligence systems based on tacit knowledge because it can help us to solve complex problems due to real word data. On the other side we knew that Knowledge engineering is helpful for representing experts knowledge which people aware of that knowledge. Due to this we proposed that integration of Machine learning and knowledge engineering can be helpful in detection of fake news. In this paper we present what is fake news, importance of fake news, overall impact of fake news on different areas, different ways to detect fake news on social media, existing detections algorithms that can help us to overcome the issue, similar application areas and at the end we proposed combination of data driven and engineered knowledge to combat fake news. We studied and compared three different modules text classifiers, stance detection applications and fact checking existing techniques that can help to detect fake news. Furthermore, we investigated the impact of fake news on society. Experimental evaluation of publically available datasets and our proposed fake news detection combination can serve better in detection of fake news.

연구 동기 및 목표

• 소셜 미디어 플랫폼에서 위조 뉴스가 급속도로 확산되는 문제에 대응하기 위해.
• 기계 학습 또는 지식 공 ing 기반 방법에만 의존하는 기존 위조 뉴스 탐지 방법의 한계를 규명하기 위해.
• 데이터 기반 기계 학습과 구조화된 전문 지식을 융합하여 탐지 성능을 향상시키기 위해.
• 위조 뉴스가 개인과 사회에 미치는 영향을 평가하고, 즉각적이고 정확한 탐지 시스템의 필요성을 강조하기 위해.
• 텍스트 분류, 입장 탐지, 사실 확인을 활용한 통합 프레임워크를 제안하고 분석하기 위해.

제안 방법

• 위조 뉴스 탐지에 적합한 세 핵심 모듈인 텍스트 분류기, 입장 탐지 응용 프로그램, 사실 확인 기법을 조사하고 비교하기 위해.
• 실제 소셜 미디어 데이터 기반으로 학습된 기계 학습 모델과 도메인 전문 지식을 코딩하는 지식 공 ing 기반 접근 방식을 통합하기 위해.
• 하이브리드 탐지 프레임워크의 실험적 평가를 위해 공개 데이터셋을 활용하기 위해.
• 뉴스 콘텐츠에서 언어적 및 의미적 특징을 추출하기 위해 자연어 처리 기법을 적용하기 위해.
• 규칙 기반 지식 시스템과 지도 학습 모델을 결합하여 모호한 경우의 의사결정 능력을 향상시키기 위해.
• 먼저 뉴스를 잠재적으로 거짓으로 분류한 후, 외부 지식 소스를 활용해 입장 분석 및 사실 확인을 수행하는 다단계 탐지 파이프라인을 설계하기 위해.

실험 결과

연구 질문

• RQ1 기계 학습과 지식 공 ing 기반 방법을 어떻게 효과적으로 융합하여 소셜 네트워크에서의 위조 뉴스 탐지 성능을 향상시킬 수 있는가?
• RQ2 텍스트 분류, 입장 탐지, 사실 확인 기법이 위조 뉴스 탐지에서 가지는 상대적 강점과 한계는 무엇인가?
• RQ3 전문 지식 시스템 통합이 기계 학습 기반의 위조 뉴스 탐지 성능에 어느 정도 향상 효과를 미치는가?
• RQ4 정확도와 강건성 측면에서 하이브리드 모델은 단독 기계 학습 또는 지식 기반 시스템과 비교해 어떻게 다른가?
• RQ5 이러한 하이브리드 시스템을 대규모로 구현할 때의 기술적 및 사회적 과제는 무엇인가?

주요 결과

• 기계 학습과 지식 공 ing 기반 방법의 융합은 단독으로 사용할 경우보다 더 정확하고 신뢰할 수 있는 위조 뉴스 탐지 성능을 제공한다.
• 하이브리드 모델은 공개 데이터셋에서 특히 모호하거나 자원이 제한된 뉴스 콘텐츠 처리에 있어 성능 향상을 보였다.
• 입장 탐지 및 사실 확인 구성 요소는 주장의 검증과 오락성 정보 탐지 능력을 크게 향상시켰다.
• 제안된 프레임워크는 복잡하고 다면적인 오락성 정보 시나리오에서 기준 모델 대비 더 높은 정밀도와 재현율을 달성했다.
• 전문 지식 통합은 언어 패턴만으로는 탐지가 어려운 경우에 거짓 긍정을 줄이는 데 기여했다.
• 실험적 평가 결과, 데이터 기반 학습과 구조화된 지식의 융합은 위조 뉴스 탐지 시스템의 일반화 능력과 해석 가능성 향상에 기여하는 것으로 확인되었다.