[論文レビュー] Rumor Detection on Twitter Using Multiloss Hierarchical BiLSTM with an Attenuation Factor

Yudianto Sujana, Jiawen Li+1 more|arXiv (Cornell University)|Oct 31, 2020

Misinformation and Its Impacts参考文献 18被引用数 7

ひとこと要約

本稿では、Twitterにおけるフェイクニュース検出のための減衰係数を備えたマルチロス階層型双方向LSTM（BiLSTM）モデルを提案する。投稿レベルとイベントレベルのBiLSTMモジュールに分けてネットワークを構造化し、それぞれに別々の損失関数を適用するとともに、投稿レベルに減衰係数を適用することで、特徴量の学習を向上させ、学習時間を短縮した。このモデルは、2つのベンチマークデータセットにおいて、最先端の手法を上回る優れた性能を達成した。

ABSTRACT

Social media platforms such as Twitter have become a breeding ground for unverified information or rumors. These rumors can threaten people's health, endanger the economy, and affect the stability of a country. Many researchers have developed models to classify rumors using traditional machine learning or vanilla deep learning models. However, previous studies on rumor detection have achieved low precision and are time consuming. Inspired by the hierarchical model and multitask learning, a multiloss hierarchical BiLSTM model with an attenuation factor is proposed in this paper. The model is divided into two BiLSTM modules: post level and event level. By means of this hierarchical structure, the model can extract deep in-formation from limited quantities of text. Each module has a loss function that helps to learn bilateral features and reduce the training time. An attenuation fac-tor is added at the post level to increase the accuracy. The results on two rumor datasets demonstrate that our model achieves better performance than that of state-of-the-art machine learning and vanilla deep learning models.

研究の動機と目的

• Twitterにおけるフェイクニュース検出モデルの精度が低く、学習時間が長いという課題に対処すること。
• 階層的ディープラーニングアーキテクチャを用いて、限られたテキストデータからの特徴抽出を向上させること。
• 複数の損失関数を用いたマルチタスク学習により、モデルの学習効率と精度を向上させること。
• 投稿レベルに減衰係数を導入することで、特徴量の学習を精緻化し、分類性能を向上させること。
• 本モデルの有効性を、実世界のフェイクニュース検出ベンチマークで検証すること。

提案手法

• モデルは2段階の階層構造を採用している：投稿レベルのBiLSTMと、ツイートの連鎖（キャスケード）を処理するイベントレベルのBiLSTM。
• 各レベルは専用の損失関数（投稿レベル損失とイベントレベル損失）を用い、マルチタスク学習を可能にし、特徴表現を向上させる。
• 投稿レベルに減衰係数を適用することで、学習中に信頼性が低いかノイズの多い特徴量を軽減し、モデルのロバスト性を高める。
• 階層的設計により、フェイクニュースの拡散における局所的（投稿レベル）およびグローバル的（イベントレベル）な文脈パターンを捉えることが可能になった。
• 両レベルを同時に最適化するため、バックプロパゲーションを用いたエンドツーエンドの学習を、複数損失関数の組み合わせ最適化で実行する。
• 性能と一般化能力の評価のために、2つの公開フェイクニュース検出データセットを用いてアーキテクチャを評価した。

実験結果

リサーチクエスチョン

• RQ1 マルチロス学習を用いた階層型BiLSTMアーキテクチャは、通常のディープラーニングモデルと比較して、フェイクニュース検出の精度を向上させることができるか？
• RQ2 投稿レベルに減衰係数を組み込むことで、モデルの性能とロバスト性が向上するか？
• RQ3 提案手法は、精度を維持または向上させつつ、学習時間を短縮できるか？
• RQ4 標準的なベンチマークデータセットにおいて、本モデルは最先端の機械学習およびディープラーニング手法と比較してどうなるか？
• RQ5 階層構造が、フェイクニュース検出における限られたテキストデータからの特徴量学習をどの程度向上させるか？

主な発見

• 提案されたマルチロス階層型BiLSTMに減衰係数を組み込んだモデルは、2つのベンチマークフェイクニュース検出データセットにおいて、最先端のモデルを上回るF1スコアと精度を達成した。
• 各レベルに別々の損失関数を用いた効率的なマルチタスク学習のおかげで、学習時間が著しく短縮された。
• 投稿レベルに適用された減衰係数のおかげで、ノイズが多いか信頼性の低い特徴量を学習段階で抑制でき、精度が向上した。
• 階層構造により、フェイクニュースの拡散におけるミクロレベル（個々のツイート）およびマクロレベル（イベントのキャスケード）のパターンを効果的に捉えることができた。
• 両方のデータセットにおいて、従来の機械学習手法および標準的なディープラーニングベースラインと比較して、F1スコアと精度の両方で本モデルが優れた性能を示した。
• 実験結果から、マルチロス学習と階層的モデリングの組み合わせが、フェイクニュース検出における優れた一般化性能とロバスト性をもたらすことが確認された。