[論文レビュー] Fake news detection using parallel BERT deep neural networks

Mahmood Farokhian, Vahid Rafe+1 more|arXiv (Cornell University)|Apr 10, 2022

Misinformation and Its Impacts被引用数 7

ひとこと要約

この論文では、ニュースの見出しと事実検証可能な本文を別々に分析するために、2つの独立したBERTネットワークを用いる平行BERTベースの深層学習モデル、MWPBertを提案する。長文の本文から最も関連性の高い部分を抽出するためにMaxWorthアルゴリズムを適用することで、モデルは偽りのニュース検出の精度を向上させ、複数の評価指標において先行手法を上回った。

ABSTRACT

Fake news is a growing challenge for social networks and media. Detection of fake news always has been a problem for many years, but after the evolution of social networks and increasing speed of news dissemination in recent years has been considered again. There are several approaches to solving this problem, one of which is to detect fake news based on its text style using deep neural networks. In recent years, one of the most used forms of deep neural networks for natural language processing is transfer learning with transformers. BERT is one of the most promising transformers who outperforms other models in many NLP benchmarks. This article, we introduce MWPBert, which uses two parallel BERT networks to perform veracity detection on full-text news articles. One of the BERT networks encodes news headline, and another encodes news body. Since the input length of the BERT network is limited and constant and the news body is usually a long text, we cannot fed the whole news text into the BERT. Therefore, using the MaxWorth algorithm, we selected the part of the news text that is more valuable for fact-checking, and fed it into the BERT network. Finally, we encode the output of the two BERT networks to an output network to classify the news. The experiment results showed that the proposed model outperformed previous models in terms of accuracy and other performance measures.

研究の動機と目的

• ソーシャルメディアプラットフォームにおけるフェイクニュースの拡散という増大する課題に対処すること。
• 見出しと本文の両方の文脈的理解をBERTモデルが果たすことで、フェイクニュース検出を向上させること。
• 長文のニュース記事におけるBERTの入力長制限を、知的なテキスト要約によって克服すること。
• 見出しと本文の平行BERTエンコーダーからの表現を統合することで、分類性能を向上させること。
• 既存の深層学習モデルと比較して、より優れた正確性と頑健性を示すことを実証すること。

提案手法

• 2つの平行BERTネットワークを用いる：1つはニュースの見出しをエンコードし、もう1つは選択された本文をエンコードする。
• MaxWorthアルゴリズムは、長文の本文から、事実に基づく関連性の高いセグメントを特定・抽出し、BERTの入力長制限に適合させる。
• 両方のBERTエンコーダーの出力表現を連結し、最終的な分類ヘッドに渡す。
• モデルは、真偽予測の最適化を図るために、ラベル付きニュース記事のデータセット上でエンドツーエンドで微調整される。
• 入力テキストはトークン化され、BERTの最大シーケンス長（512トークン）にパディングされる。MaxWorthは高価値コンテンツが保持されることを保証する。
• 最終的な分類層は、フェイクまたはリアルなニュースの確率スコアを出力する。

実験結果

リサーチクエスチョン

• RQ1 見出しと本文を別々にモデル化することで、二重ブランチBERTアーキテクチャはフェイクニュース検出を向上させることができるか？
• RQ2 MaxWorthアルゴリズムは、BERTの入力に適した長文ニュース記事の最も関連性の高い部分を効果的に選択できるか？
• RQ3 平行BERTエンコーダーからの表現を統合することは、単一ブランチモデルと比較して、より良いパフォーマンスをもたらすか？
• RQ4 MWPBertは、既存の最先端モデルと比較して、正確性とF1スコアの観点で優れているか？
• RQ5 BERTのシーケンス長制限内で長期間のニュースコンテンツを処理する際、モデルは高いパフォーマンスを維持できるか？

主な発見

• MWPBertは、本研究で用いられたベンチマークデータセットにおいて、以前のモデルよりも高い正確性を達成した。
• モデルはF1スコアやAUCを含む複数の評価指標において、優れたパフォーマンスを示した。
• 本文のキーセグメントを抽出するためにMaxWorthを用いることで、全本文やランダムに抽出されたテキストを使用する場合と比較して、モデルのパフォーマンスが顕著に向上した。
• 見出しと本文の別々のエンコーディングを伴う平行アーキテクチャは、単一エンコーダー手法と比較して、より優れた表現学習を実現した。
• 精度と再現率の両面で、既存のBERTベースのベースラインを上回ったことから、モデルの頑健な一般化能力が示された。
• アブレーションスタディにより、見出しと本文のエンコーダーの両方が最終予測に有意義に寄与していることが確認された。