[論文レビュー] DANES: Deep Neural Network Ensemble Architecture for Social and Textual Context-aware Fake News Detection

Ciprian‐Octavian Truică, Elena‐Simona Apostol+1 more|arXiv (Cornell University)|Feb 1, 2023

Misinformation and Its Impacts被引用数 4

ひとこと要約

DANESは、テキスト的およびソーシャルな文脈を統合する新しい深層ニューラルネットワークアンサンブルアーキテクチャを提案する。テキストおよびソーシャルの2本のブランチ（テキストブランチとソーシャルブランチ）を用いて、統合されたネットワーク埋め込みを生成する。ドメイン固有の単語埋め込み（例：Mittens）とソーシャルネットワーク特徴量（例：ユーザーの関与度、フォロワー数）を組み合わせることで、BuzzFace、Twitter15、Twitter16で最先端の精度を達成し、特にデータが少ない状況下でも既存のモデルを上回る性能を発揮する。

ABSTRACT

The growing popularity of social media platforms has simplified the creation and distribution of news articles but also creates a conduit for spreading fake news. In consequence, the need arises for effective context-aware fake news detection mechanisms, where the contextual information can be built either from the textual content of posts or from available social data (e.g., information about the users, reactions to posts, or the social network). In this paper, we propose DANES, a Deep Neural Network Ensemble Architecture for Social and Textual Context-aware Fake News Detection. DANES comprises a Text Branch for a textual content-based context and a Social Branch for the social context. These two branches are used to create a novel Network Embedding. Preliminary ablation results on 3 real-world datasets, i.e., BuzzFace, Twitter15, and Twitter16, are promising, with an accuracy that outperforms state-of-the-art solutions when employing both social and textual content features.

研究の動機と目的

• ソーシャルメディア上でのフェイクニュースの拡散という増加する課題に対処するため、検出モデルにテキスト的およびソーシャルな文脈を統合すること。
• テキストコンテンツとユーザー層のソーシャルインタラクションを統合した新しいネットワーク埋め込みを活用することで、検出性能を向上させること。
• 限られた学習データ下でのモデルの有効性を評価し、現実世界の展開制約に対応すること。
• データおよび文脈に配慮したソリューションを提供し、メディアリテラシーを高め、ユーザーの意思決定を支援すること。

提案手法

• モデルは、テキストブランチとして、Word2Vec CBOW、Word2Vec Skip-Gram、FastText CBOW、FastText Skip-Gram、GloVe、Mittensの6種類の単語埋め込みを用い、テキストコンテンツを符号化する。
• ソーシャルブランチは、リアクション数、共有数、コメント数、フォロワー数、フォロー中数などのユーザーおよび投稿レベルのソーシャル特徴量を符号化し、ソーシャルネットワークの影響を捉える。
• テキストブランチとソーシャルブランチの出力を連結することで、フェイクニュース分類のための統合された表現である、新しいネットワーク埋め込みが生成される。
• 異なる層構成（例：Bi-LSTM、GRU、全結合層）におけるアブレーションテストを実施し、各埋め込みタイプに最適な組み合わせを同定する。
• 主に精度を指標として用い、3つの現実世界のデータセット（BuzzFace、Twitter15、Twitter16）でモデルを学習および評価する。
• 計算コストの高い事前学習済みTransformerをソーシャル特徴量に使用しないようにし、代わりに軽量でプラットフォーム固有のソーシャルメタデータに焦点を当てる。

実験結果

リサーチクエスチョン

• RQ1 RQ1: テキスト的およびソーシャルな文脈を強化したソリューションは、フェイクニュース検出を改善するか？
• RQ2 RQ2: 限られた学習データ下でも、このようなソリューションは効果的か？
• RQ3 RQ3: 単語埋め込みとニューラルネットワーク層のどの組み合わせが最良のネットワーク埋め込みを生み出すか？
• RQ4 RQ4: ソーシャルおよびテキスト的文脈を統合したハイブリッドモデルは、最先端のフェイクニュース検出システムを上回るか？

主な発見

• Mittens埋め込みとソーシャル文脈特徴量を統合したネットワーク埋め込みが、中規模から大規模なテキストコーパスにおいて最高の精度を達成した。
• 小規模から中規模のデータセットでは、FastText埋め込みが他の単語埋め込みを上回り、特にサブワード情報が重要な場合に顕著であった。
• ユーザーの関与度やフォロワー数といったソーシャル文脈特徴量の統合により、検出性能が顕著に向上し、ソーシャル文脈の価値が裏付けられた。
• DANESは、BuzzFace、Twitter15、Twitter16で最先端の精度を達成し、特にデータが少ない状況下でも既存のSOTAモデルを上回った。
• アブレーションスタディの結果、テキスト的およびソーシャル埋め込みを併用することで、単一のモodalitに比べてより優れた結果が得られ、二本のブランチアーキテクチャの有効性が検証された。
• Bi-LSTM、GRU、全結合層の選択は性能に顕著な影響を及ぼし、最適な構成はデータセットや埋め込みタイプによって変化した。