[論文レビュー] Satirical News Detection and Analysis using Attention Mechanism and Linguistic Features

Fan Yang, Arjun Mukherjee+1 more|arXiv (Cornell University)|Sep 4, 2017

Sentiment Analysis and Opinion Mining参考文献 40被引用数 5

ひとこと要約

本稿では、心理言語的、スタイル的、構造的、読みやすさの特徴といった段落レベルの言語的特徴に加え、文書レベルの特徴を分析することで、風刺ニュースを検出するための4段階の階層的ニューラルネットワークと注目メカニズムを提案する。モデルは、風刺の兆候が特定の複雑な段落に集中していることを特定することで、文書のみのアプローチを上回り、ほとんどの特徴タイプにおいて段落レベルの特徴が文書レベルの特徴よりも情報量が多いことが判明した。一方で、読みやすさの特徴は文書レベルでより関連性が高かった。

ABSTRACT

Satirical news is considered to be entertainment, but it is potentially deceptive and harmful. Despite the embedded genre in the article, not everyone can recognize the satirical cues and therefore believe the news as true news. We observe that satirical cues are often reflected in certain paragraphs rather than the whole document. Existing works only consider document-level features to detect the satire, which could be limited. We consider paragraph-level linguistic features to unveil the satire by incorporating neural network and attention mechanism. We investigate the difference between paragraph-level features and document-level features, and analyze them on a large satirical news dataset. The evaluation shows that the proposed model detects satirical news effectively and reveals what features are important at which level.

研究の動機と目的

• 風刺ニュースの検出という課題に取り組む。風刺ニュースは意図的にエンタメとして提供されるが、読者を誤解させる可能性がある。
• 既存の文書レベル特徴アプローチの限界を克服する。風刺の微細で局所的な兆候を無視する可能性がある。
• 風刺ニュース検出において、段落レベル特徴と文書レベル特徴の相対的な重要性を調査する。
• 分類のための最も顕著な風刺的段落を特定・重み付けするため、注目メカニズムを備えた階層的ニューラルネットワークを開発する。
• 感情のトーン、文の複雑さ、比喩的表現の使用といった風刺の言語的特徴に関する知見を提供する。

提案手法

• 4段階の階層的ネットワークが、文字、語、段落、文書レベルでテキストを処理し、言語的構造をモデル化する。
• 段落レベル特徴（心理言語的、スタイル、構造的、読みやすさ）が埋め込まれ、注目メカニズムに供給され、影響力の高い段落を特定する。
• 注目メカニズムは各段落の関連性スコアを計算し、風刺を示唆する可能性が最も高いセグメントに注目できるようにする。
• 文書レベル特徴が集約され、注目された段落表現と組み合わせられ、最終的な分類に用いられる。
• 交差エントロピー損失を用いてエンドツーエンドで学習され、16,000件以上の風刺ニュースおよび160,000件以上の真実ニュースを含む大規模データセットで評価される。
• 注目スコアの可視化により、風刺検出において最も顕著な段落および言語的パターン（例：大文字、引用符、ユーモア）を解釈できる。

実験結果

リサーチクエスチョン

• RQ1 段落レベルの言語的特徴と文書レベルの特徴は、風刺ニュース検出においてどのように比較されるか？
• RQ2 心理言語的、スタイル的、構造的、読みやすさの特徴といった特定の言語的特徴は、どのテキストレベルで風刺の予測に最も有用か？
• RQ3 注目メカニズムは、ニュース記事内での風刺的特徴が強い段落を効果的に特定・強調できるか？
• RQ4 段落レベルにおいて、文の複雑さと感情のトーンは、風刺ニュースと真実ニュースでどの程度異なるか？
• RQ5 読みやすさと構造的特徴は、風刺ニュース検出の最終的分類意思決定にどのように影響するか？

主な発見

• 段落レベル特徴、特に心理言語的、スタイル的、構造的特徴が、風刺検出において文書レベル特徴よりも情報量が多いことが判明した。
• 読みやすさ特徴は文書レベルでより重要であり、風刺ニュースは内容がだまされていても全体として理解しやすい傾向があると考えられる。
• 風刺ニュースの段落は、より高い文の複雑さを示し、より多くの節、大文字、引用符を含んでおり、ユーモラスまたは皮肉的な効果を得るための意図的なスタイル的構築であることが示された。
• 注目メカニズムは、風刺的コンテンツが強い段落（例：皮肉、ユーモア、対立的トピックを含む）を効果的に強調し、高い注目スコアを示した。
• 心理言語的特徴の「Humans」、「Social」、「Leisure」は、風刺において感情的で創造的な書きぶりを示しており、一方「Past」と「VBN」は真実ニュースでより頻出する。これは、過去の出来事の物語的報告に起因する。
• モデルは段落レベルの注目を活用することで、風刺が文書全体に均等に分布しているのではなく、特定の言語的構造が複雑なセグメントに局所的に集中していることを示した。