[論文レビュー] Modeling Multi-level Context for Informational Bias Detection by Contrastive Learning and Sentential Graph Network

Shijia Guo, Kenny Q. Zhu|arXiv (Cornell University)|Jan 25, 2022

Topic Modeling被引用数 6

ひとこと要約

本稿では、対照的学習と関係性のある文グラフを用いたグラフ自己注意ネットワーク（GAT）を組み合わせることで、隣接文、全記事、およびクロスメディアの出来事報道という複数レベルの文脈を統合する、文単位の情報的バイアス検出のための新規モデルMultiCTXを提案する。モデルはF1スコア46.08を達成し、以前のSOTA（44.10）を顕著に上回り、語彙的手がかりを超えて文脈を統合することでバイアス検出が向上することを示している。

ABSTRACT

Informational bias is widely present in news articles. It refers to providing one-sided, selective or suggestive information of specific aspects of certain entity to guide a specific interpretation, thereby biasing the reader's opinion. Sentence-level informational bias detection is a very challenging task in a way that such bias can only be revealed together with the context, examples include collecting information from various sources or analyzing the entire article in combination with the background. In this paper, we integrate three levels of context to detect the sentence-level informational bias in English news articles: adjacent sentences, whole article, and articles from other news outlets describing the same event. Our model, MultiCTX (Multi-level ConTeXt), uses contrastive learning and sentence graphs together with Graph Attention Network (GAT) to encode these three degrees of context at different stages by tactically composing contrastive triplets and constructing sentence graphs within events. Our experiments proved that contrastive learning together with sentence graphs effectively incorporates context in varying degrees and significantly outperforms the current SOTA model sentence-wise in informational bias detection.

研究の動機と目的

• 個々の文の内容を超える文脈的手がかりに依存する文単位の情報的バイアス検出の課題に対処すること。
• 隣接文、全記事、およびクロスメディアの出来事レポートという3つの文脈レベルを統合したフレームワークを構築し、バイアス検出を向上させること。
• 多様な情報源と全体的な出来事理解を組み合わせることで人間の推論に類似した方法を模倣し、微細で文脈依存のバイアスを特定すること。
• 順序処理を超えて長距離依存関係や論理的関係を捉える、堅牢で解釈可能な手法を開発すること。

提案手法

• MultiCTXは、(ターゲット、ポジティブ、ネガティブ)の三つ組みサンプルを形成することで、高品質な文埋め込み（CSEs）を対照的学習により生成する。ポジティブサンプルは記事レベルの整合性と意味的類似性に基づいて選択される。
• モデルは、節としてノードを表し、話法的関係、意味的類似性、および出来事間の実体継続性（共参照）に基づいてエッジを形成する関係性のある文グラフを構築する。
• 自己教師付きグラフ自己注意ネットワーク（SSGAT）は文グラフを符号化し、学習された注意重みを通じて遠く離れたが文脈的に関連する文同士が互いに影響を及ぼすことを可能にする。
• 対照的三つ組みの形成は、記事レベルの文脈を組み込むことで強化され、表面的な語彙的特徴への依存を回避し、意味的精錼を向上させる。
• 構文解析を最小限に抑えた文グラフの構築により、トークンレベルの依存関係グラフに比べノイズが低減され、解釈可能性が向上する。
• モデルはエンドツーエンドで文単位のバイアス予測を学習し、対照的学習とグラフ自己注意を最適化する損失関数を用いて最適化される。

実験結果

リサーチクエスチョン

• RQ1 隣接文、全記事、およびクロスメディアの出来事レポートという複数レベルの文脈を統合することで、文単位の情報的バイアス検出が向上するか？
• RQ2 文脈に配慮した三つ組み構築による対照的学習は、バイアス検出のための文表現をどのように向上させるか？
• RQ3 話法的関係、意味的類似性、実体継続性といった種々の文間関係のうち、どれがバイアス検出性能に最も寄与するか？
• RQ4 注意メカニズムを備えた関係性のある文グラフは、LSTMのような順序処理モデルに比べ、長距離文脈的依存関係を捕捉する点で優れているか？

主な発見

• MultiCTXはF1スコア46.08を達成し、以前のSOTAモデル（F1=44.10）を2パーセンテージポイント上回り、複数レベルの文脈統合の有効性を示している。
• アブレーションスタディの結果、実体継続性（共参照）が最も重要なエッジタイプであり、その除去による性能低下が最大（F1=45.55）を示した。
• 話法的関係は意味的類似性よりもモデル性能に寄与が大きい。SSGATで話法的エッジのみを用いた場合、F1=45.85を達成し、フルモデルに近く、性能に近い。
• 出来事レベルの文脈（タイプ3,4エッジ）は近隣レベルの文脈（タイプ1,2）よりも寄与が大きい。アブレーション実験でF1=45.81 vs. F1=45.53の結果が示した。
• モデルの性能はノイズに対して頑健である。文グラフ設計により構文解析を最小限に抑え、トークンレベルの依存関係グラフに比べノイズが低減されている。
• 結果は、特に出来事レベルの文脈と実体継続性が、孤立した状態では見えない微細な非語彙的バイアスの検出を可能にすることを確認した。