[論文レビュー] Mining Significant Microblogs for Misinformation Identification: An Attention-based Approach

Qiang Liu, Feng Yu+2 more|arXiv (Cornell University)|Jun 20, 2017

Misinformation and Its Impacts参考文献 41被引用数 11

ひとこと要約

本稿では、コンテンツおよび動的時間ベースの注目メカニズムを用いて顕著なマイクロブログを選択することで、SNS上の誤情報特定のための注目ベースのモデルAIMを提案する。この手法は、高影響力のマイクロブログに注目することで、無関係なコンテンツからのノイズを低減し、WeiboおよびTwitterデータセットにおいて最先端の手法を上回る性能を発揮する。

ABSTRACT

With the rapid growth of social media, massive misinformation is also spreading widely on social media, such as microblog, and bring negative effects to human life. Nowadays, automatic misinformation identification has drawn attention from academic and industrial communities. For an event on social media usually consists of multiple microblogs, current methods are mainly based on global statistical features. However, information on social media is full of noisy and outliers, which should be alleviated. Moreover, most of microblogs about an event have little contribution to the identification of misinformation, where useful information can be easily overwhelmed by useless information. Thus, it is important to mine significant microblogs for a reliable misinformation identification method. In this paper, we propose an Attention-based approach for Identification of Misinformation (AIM). Based on the attention mechanism, AIM can select microblogs with largest attention values for misinformation identification. The attention mechanism in AIM contains two parts: content attention and dynamic attention. Content attention is calculated based textual features of each microblog. Dynamic attention is related to the time interval between the posting time of a microblog and the beginning of the event. To evaluate AIM, we conduct a series of experiments on the Weibo dataset and the Twitter dataset, and the experimental results show that the proposed AIM model outperforms the state-of-the-art methods.

研究の動機と目的

• SNSにおける誤情報検出において、ノイズが多く無関係なマイクロブログが有用な信号を圧倒するという課題に対処すること。
• グローバル統計的特徴に依存するのではなく、顕著なマイクロブログに注目することで、誤情報同定を改善すること。
• テキスト的コンテンツと時間的ダイナミクスを統合した一貫した注目メカニズムを構築し、より良い表現学習を実現すること。
• イベントレベルの信頼性評価において、外れ値や低寄与マイクロブログの影響を軽減すること。
• 重要なユーザの貢献に注目することで、誤情報と真実の情報を信頼性高く区別できるモデルを構築すること。

提案手法

• 提案されたAIMモデルは二重注目メカニズムを用いる：各マイクロブログのテキスト特徴に基づくコンテンツ注目と、イベント発生からの時間間隔に基づく動的注目。
• コンテンツ注目は、テキスト埋め込みを用いて各マイクロブログの内容の情報量を評価する。
• 動的注目は、イベント発生に近い時期に投稿されたマイクロブログに高い重みを割り当て、それらがイベント理解を形作る可能性を反映する。
• 最終的な注目重みは、コンテンツ注目と動的注目を組み合わせることで得られ、モデルが関連性とタイムリーネスの高いマイクロブログを優先できる。
• 学習された注目重みを用いたマイクロブログの重み付き和から、分類のための統一されたイベントレベル表現が生成される。
• モデルはWeiboおよびTwitterデータセット上でエンドツーエンドに訓練され、解釈可能性を検証するための注目重みの可視化が行われた。

実験結果

リサーチクエスチョン

• RQ1 どのようにして、SNSイベント内での最も顕著なマイクロブログを効果的に特定し、誤情報検出を向上させることができるか？
• RQ2 コンテンツベースと時間ベースの注目を組み合わせることで、誤情報検出モデルの性能がどの程度向上するか？
• RQ3 注目メカニズムは、イベントレベルの誤情報分類におけるノイズが多く低寄与のマイクロブログの影響を軽減できるか？
• RQ4 注目重みは、人間の信頼性およびイベントの重要性に関する判断とどの程度相関するか？
• RQ5 提案されたモデルは、WeiboやTwitterのような異なるSNSプラットフォームに一般化可能か？

主な発見

• AIMモデルは、WeiboおよびTwitterデータセットの両方で、最先端の手法を上回る誤情報検出性能を示した。
• 注目重みの可視化により、モデルがオリジナルのマイクロブログおよび重要な疑義や事実確認メッセージを正しく顕著な対象として特定していることが確認された。
• イベントを疑問視し、質問する、または否定するマイクロブログは、人間の直感と整合する信頼できる信号として高い注目スコアを獲得した。
• イベントのオリジナルマイクロブログは一貫して最高の注目重みを獲得しており、イベント理解における基盤的役割を示している。
• モデルは奇妙ではあるが真実の物語（例：ユーモラスな泥棒のエピソード）を正しく真実と分類でき、異常なコンテンツに対しても頑健であることを示した。
• 動的注目を統合することで、イベントタイムラインにおける初期段階で発信された、おそらくより情報量の多い投稿に注目を向けることができ、性能が向上した。