[論文レビュー] Fake News Detection with Deep Diffusive Network Model.

Jiawei Zhang, Limeng Cui+2 more|arXiv (Cornell University)|May 22, 2018

Misinformation and Its Impacts参考文献 61被引用数 76

ひとこと要約

本稿では、テキスト的特徴と潜在的特徴を組み合わせて、ニュース記事、作成者、トピックの表現を同時に学習する深層拡散ネットワークモデル、FakeDetectorを提案する。実世界のデータセット上で評価された結果、既存の最先端モデルを上回り、複数エンティティ間の関係を統合的にモデリングすることで、偽りの内容を効果的に特定する能力を示した。

ABSTRACT

In recent years, due to the booming development of online social networks, fake news for various commercial and political purposes has been appearing in large numbers and widespread in the online world. With deceptive words, online social network users can get infected by these online fake news easily, which has brought about tremendous effects on the offline society already. An important goal in improving the trustworthiness of information in online social networks is to identify the fake news timely. This paper aims at investigating the principles, methodologies and algorithms for detecting fake news articles, creators and subjects from online social networks and evaluating the corresponding performance. This paper addresses the challenges introduced by the unknown characteristics of fake news and diverse connections among news articles, creators and subjects. Based on a detailed data analysis, this paper introduces a novel automatic fake news credibility inference model, namely FakeDetector. Based on a set of explicit and latent features extracted from the textual information, FakeDetector builds a deep diffusive network model to learn the representations of news articles, creators and subjects simultaneously. Extensive experiments have been done on a real-world fake news dataset to compare FakeDetector with several state-of-the-art models, and the experimental results have demonstrated the effectiveness of the proposed model.

研究の動機と目的

• オンラインのソーシャルネットワークにおける偽りのニュースを検出する課題に取り組む。ここでは、偽りの内容が急速に広がり、社会的信頼を損なうための対策が求められる。
• ニュース記事、作成者、トピックの間の複雑で多様な関係をモデル化する。これは、既存の検出手法でしばしば無視されている。
• テキストコンテンツから明示的および潜在的特徴を捉える自動的信頼性推論モデルを開発し、検出精度を向上させる。
• 実世界の偽りのニュースデータセット上で、最先端のアプローチと比較してモデルの性能を評価し、有効性を検証する。

提案手法

• FakeDetectorは、ニュース記事、作成者、トピックの表現をテキスト的特徴を用いて同時に学習する深層拡散ネットワークモデルを構築する。
• モデルは、ニュースコンテンツから明示的特徴（例：言語的パターン）と潜在的特徴（例：深層ニューラルネットワークからの埋め込み表現）を抽出する。
• 拡散メッセージパッシング機構を用いて、エンティティ間（記事、作成者、トピック）の構造的関係をモデル化し、相互作用を表現する。
• 深層アーキテクチャにより、複数のレイヤーにわたる階層的特徴学習が可能となり、偽りのニュース拡散における複雑なパターンを捉える。
• 信頼性推論を最適化するため、エンドツーエンドで学習され、本物と偽物のニュースを区別するように設計された損失関数が用いられる。
• 詳細なデータ分析を通じて、偽りのニュースの未知の特徴に対応できるよう、特徴抽出と拡散ネットワークのアーキテクチャの設計が行われた。

実験結果

リサーチクエスチョン

• RQ1 ニュース記事、作成者、トピックの統合的モデリングは、個別にエンティティを分析する手法と比較して、偽りのニュース検出性能をどのように向上させるか？
• RQ2 明示的および潜在的テキスト特徴のどの組み合わせが、偽りのニュースの特徴を最もよく捉えるか？
• RQ3 深層拡散ネットワークアーキテクチャは、信頼性推論のための表現学習をどの程度向上させるか？
• RQ4 実世界のソーシャルメディアデータ上で、FakeDetectorは最先端のモデルと比較して、偽りのニュース検出においてどの程度優れているか？

主な発見

• FakeDetectorは、実世界のデータセット上で、複数の最先端モデルを上回る優れた性能を達成した。
• 記事、作成者、トピックの統合的モデリングにより、エンティティ間の関係を捉えることで、検出精度が顕著に向上した。
• 明示的および潜在的テキスト特徴の統合により、偽りの内容を検出する能力が向上した。
• 深層拡散ネットワークアーキテクチャは、偽りのニュースが示す多様で変化し続ける特徴に対しても、頑健な階層的表現を学習するのに効果的であった。
• 広範な実験により、提案手法が信頼性の高い精度で偽りのニュースを特定できることを確認した。
• 未観測データに対しても優れた一般化性能を示し、ソーシャルメディア監視における実世界での導入可能性を示した。