[论文解读] Modeling Multi-level Context for Informational Bias Detection by Contrastive Learning and Sentential Graph Network

Shijia Guo, Kenny Q. Zhu|arXiv (Cornell University)|Jan 25, 2022

Topic Modeling被引用 6

一句话总结

该论文提出 MultiCTX，一种新颖的句子级信息偏见检测模型，通过对比学习与基于图注意力网络的关系句子图，整合多层次上下文信息——相邻句子、整篇文章以及跨媒体事件报道——实现更优的偏见检测。模型取得 46.08 的 F1 分数，显著优于此前的 SOTA 模型（44.10），证明多层次上下文能超越词汇线索，显著提升偏见检测效果。

ABSTRACT

Informational bias is widely present in news articles. It refers to providing one-sided, selective or suggestive information of specific aspects of certain entity to guide a specific interpretation, thereby biasing the reader's opinion. Sentence-level informational bias detection is a very challenging task in a way that such bias can only be revealed together with the context, examples include collecting information from various sources or analyzing the entire article in combination with the background. In this paper, we integrate three levels of context to detect the sentence-level informational bias in English news articles: adjacent sentences, whole article, and articles from other news outlets describing the same event. Our model, MultiCTX (Multi-level ConTeXt), uses contrastive learning and sentence graphs together with Graph Attention Network (GAT) to encode these three degrees of context at different stages by tactically composing contrastive triplets and constructing sentence graphs within events. Our experiments proved that contrastive learning together with sentence graphs effectively incorporates context in varying degrees and significantly outperforms the current SOTA model sentence-wise in informational bias detection.

研究动机与目标

• 为解决句子级信息偏见检测的挑战，该任务高度依赖于超越单一句子内容的上下文线索。
• 将三种上下文层级——相邻句子、整篇文章以及跨媒体事件报道——整合进统一框架，以提升偏见检测效果。
• 通过结合多样化信息源与全局事件理解，模拟人类推理过程，识别细微且依赖上下文的偏见。
• 开发一种稳健且可解释的方法，捕捉新闻文章中超越顺序处理的长距离依赖与逻辑关系。

提出的方法

• MultiCTX 使用对比学习生成高质量的句子嵌入（CSEs），通过构建（目标句，正样本，负样本）三元组实现，其中正样本依据文章级连贯性与语义相似度选择。
• 模型构建关系句子图，节点代表句子，边基于语篇关系、语义相似度以及事件间实体连续性（共指）形成。
• 自监督图注意力网络（SSGAT）对句子图进行编码，使远距离但语境相关的句子可通过学习到的注意力权重相互影响。
• 通过引入文章级上下文增强对比三元组构建，减少对表面词汇特征的依赖，提升语义提炼效果。
• 句子图构建采用最小化句法解析，相比基于词元的依存图，显著降低噪声并提升可解释性。
• 模型端到端训练以预测句子级偏见，损失函数通过对比学习与图注意力机制联合优化。

实验结果

研究问题

• RQ1 整合相邻句子、整篇文章以及跨媒体事件报道等多层次上下文，是否能提升句子级信息偏见检测性能？
• RQ2 基于上下文感知三元组构建的对比学习，如何增强句子表征以提升偏见检测效果？
• RQ3 哪些句子间关系类型（如语篇关系、语义相似度、实体连续性）对偏见检测性能贡献最大？
• RQ4 具有注意力机制的关系句子图是否优于 LSTMs 等序列模型，在捕捉长距离上下文依赖方面表现更优？

主要发现

• MultiCTX 取得 46.08 的 F1 分数，相比此前 SOTA 模型（F1=44.10）提升 2 个百分点，证明多层次上下文整合的有效性。
• 消融实验表明，实体连续性（共指）是最重要的边类型，其移除导致性能下降最大（F1=45.55）。
• 语篇关系对模型性能的贡献超过语义相似度，仅使用语篇关系边的 SSGAT 模型即达 F1=45.85，接近完整模型性能。
• 事件级上下文（类型 3、4 边）的贡献高于邻域级上下文（类型 1、2），消融实验显示 F1=45.81 vs. F1=45.53。
• 模型对噪声具有鲁棒性，因其句子图设计减少了句法解析，相比基于词元的依存图显著降低噪声。
• 结果证实，多层次上下文——尤其是事件级上下文与实体连续性——能够识别孤立状态下不可见的细微非词汇偏见。