[论文解读] Learning Contextualized Knowledge Structures for Commonsense Reasoning
本文提出混合图网络（HGN），一种知识图谱增强模型，能够在统一图结构中联合推理提取的常识事实与生成的常识事实。通过学习重加权边并过滤掉与上下文无关的边，HGN在四个常识推理基准测试中达到最先进性能，包括在CommonsenseQA和OpenbookQA排行榜上排名第一，人工评估也证实其边的有效性与帮助性得到提升。
Recently, knowledge graph (KG) augmented models have achieved noteworthy success on various commonsense reasoning tasks. However, KG edge (fact) sparsity and noisy edge extraction/generation often hinder models from obtaining useful knowledge to reason over. To address these issues, we propose a new KG-augmented model: Hybrid Graph Network (HGN). Unlike prior methods, HGN learns to jointly contextualize extracted and generated knowledge by reasoning over both within a unified graph structure. Given the task input context and an extracted KG subgraph, HGN is trained to generate embeddings for the subgraph's missing edges to form a "hybrid" graph, then reason over the hybrid graph while filtering out context-irrelevant edges. We demonstrate HGN's effectiveness through considerable performance gains across four commonsense reasoning benchmarks, plus a user study on edge validness and helpfulness.
研究动机与目标
- 解决常识推理任务中知识图谱边稀疏且噪声多的问题。
- 通过联合上下文化处理提取与生成的知识事实，提升模型性能。
- 减少对静态启发式知识图谱子图的依赖，通过学习动态、上下文感知的边表示。
- 通过边重加权提升推理质量，过滤无关事实。
- 验证混合知识结构相较于仅静态提取，能产生更有效且更有帮助的边。
提出的方法
- HGN通过结合任务特定的知识图谱子图（提取的）与PLM生成的边，构建混合图。
- 其为子图中缺失的边学习边嵌入，形成统一的‘混合’图结构。
- 应用边重加权以降低与上下文无关边的影响，权重通过节点、边和文本特征的注意力机制学习。
- 通过加权边进行消息传递，以在推理过程中减弱噪声或无关边的影响。
- 模型端到端训练，同步更新图编码器与文本编码器，并使用评分函数进行预测。
- 通过‘剪枝率’指标衡量软剪枝，表示训练期间低权重边所占比例。
实验结果
研究问题
- RQ1在提取与生成的知识上联合推理是否能提升常识推理性能？
- RQ2在混合图结构中进行边重加权是否能更有效地过滤无关或噪声事实？
- RQ3HGN生成的边是否比启发式提取方法更具有效性和帮助性？
- RQ4HGN与提取与生成事实的后期融合或独立处理方法相比表现如何？
- RQ5HGN能否在多样化的常识推理基准上实现泛化，并提升鲁棒性？
主要发现
- HGN在四个常识推理基准测试中达到最先进性能，优于所有基线模型。
- HGN在CommonsenseQA排行榜和OpenbookQA排行榜上均位列同类方法第一。
- 人工评估显示，HGN过滤后的边在有效性和帮助性方面显著优于启发式提取的边。
- 剪枝率指标表明，HGN在训练过程中有效软剪枝了大量无关边。
- Fleiss’ Kappa分数分别为0.51（有效性）和0.36（帮助性），证实边质量评估具有中等至尚可的标注者间一致性。
- HGN生成的优化图包含更多有效边，且在有用事实方面更密集，优于原始提取图。
更好的研究，从现在开始
从阅读论文到最终审阅，大幅缩短您的研究时间。
无需绑定信用卡
本解读由 AI 生成，并经人工编辑审核。