[論文レビュー] Combining Machine Learning with Knowledge Engineering to detect Fake News in Social Networks-a survey

Sajjad Ahmed, Knut Hinkelmann+1 more|arXiv (Cornell University)|Jan 20, 2022

Misinformation and Its Impacts被引用数 11

ひとこと要約

本調査では、機械学習と知識工学を組み合わせたハイブリッドアプローチを提案し、ソーシャルネットワークにおけるフェイクニュース検出を検討する。データ駆動型モデルとエキスパート知識システムを統合することで、テキスト分類、スタイント検出、事実確認技術を用い、公開データセット上での精度と耐性の面で、単独の手法よりも優れたハイブリッドフレームワークの有効性を示している。

ABSTRACT

Due to extensive spread of fake news on social and news media it became an emerging research topic now a days that gained attention. In the news media and social media the information is spread highspeed but without accuracy and hence detection mechanism should be able to predict news fast enough to tackle the dissemination of fake news. It has the potential for negative impacts on individuals and society. Therefore, detecting fake news on social media is important and also a technically challenging problem these days. We knew that Machine learning is helpful for building Artificial intelligence systems based on tacit knowledge because it can help us to solve complex problems due to real word data. On the other side we knew that Knowledge engineering is helpful for representing experts knowledge which people aware of that knowledge. Due to this we proposed that integration of Machine learning and knowledge engineering can be helpful in detection of fake news. In this paper we present what is fake news, importance of fake news, overall impact of fake news on different areas, different ways to detect fake news on social media, existing detections algorithms that can help us to overcome the issue, similar application areas and at the end we proposed combination of data driven and engineered knowledge to combat fake news. We studied and compared three different modules text classifiers, stance detection applications and fact checking existing techniques that can help to detect fake news. Furthermore, we investigated the impact of fake news on society. Experimental evaluation of publically available datasets and our proposed fake news detection combination can serve better in detection of fake news.

研究の動機と目的

• ソーシャルメディアプラットフォームにおけるフェイクニュースの急速な拡散という増大する課題に対処すること。
• 単独で機械学習または知識工学に依存する既存のフェイクニュース検出手法の限界を特定すること。
• データ駆動型の機械学習と構造化されたエキスパート知識の統合により、検出性能を向上させることの可能性を探ること。
• フェイクニュースが個人および社会に与える影響を評価し、タイムリーで正確な検出システムの必要性を強調すること。
• テキスト分類、スタイント検出、事実確認を活用した統合フレームワークを提案・分析することによる検出性能の向上。

提案手法

• フェイクニュース検出における3つのコアモジュール（テキスト分類器、スタイント検出アプリケーション、事実確認技術）をサーベイし、比較すること。
• 現実世界のソーシャルメディアデータで訓練された機械学習モデルと、ドメインエキスパート知識をエンコードする知識工学的手法を統合すること。
• 公開データセットを用いてハイブリッド検出フレームワークの実験的評価を実施すること。
• 自然言語処理技術を活用し、ニュースコンテンツから言語的および意味的特徴を抽出すること。
• ルールベースの知識システムと教師あり学習モデルを組み合わせ、曖昧なケースにおける意思決定を向上させること。
• まずフェイク可能性を分類し、次に外部知識ソースを用いてスタイント分析と事実検証を行う段階的な検出パイプラインを設計すること。

実験結果

リサーチクエスチョン

• RQ1 どのようにして機械学習と知識工学を効果的に統合することで、ソーシャルネットワークにおけるフェイクニュース検出を向上させられるか？
• RQ2 テキスト分類、スタイント検出、事実確認の相対的な長所と短所は何か？
• RQ3 エキスパート知識システムを統合することで、機械学習ベースのフェイクニュース検出の性能はどの程度向上するか？
• RQ4 精度と耐性の観点から、ハイブリッドモデルは単独の機械学習または知識ベースのシステムと比べてどの程度優れているか？
• RQ5 このようなハイブリッドシステムをスケールして展開するにあたり、技術的および社会的課題は何か？

主な発見

• 機械学習と知識工学の統合は、単独で用いる場合よりも、より正確で信頼性の高いフェイクニュース検出を実現する。
• ハイブリッドモデルは、公開データセット上で優れた性能を示しており、曖昧またはリソースが限られたニュースコンテンツの処理において特に顕著である。
• スタイント検出および事実確認モジュールは、主張の検証と誤情報の検出能力を顕著に向上させる。
• 提案されたフレームワークは、ベースラインモデルと比較して、特に複雑で多面的な誤情報シナリオにおいて高い正確性と再現率を達成している。
• エキスパート知識の統合により、言語的パターンだけでは検出が困難なケースにおける誤検出（偽陽性）が低減される。
• 実験的評価により、データ駆動型学習と構造化された知識の統合が、フェイクニュース検出システムの一般化能力と解釈可能性を向上させることを確認した。