[论文解读] Incorporating Structured Commonsense Knowledge in Story Completion

Jiaao Chen, Jianshu Chen+1 more|arXiv (Cornell University)|Nov 1, 2018

Topic Modeling参考文献 33被引用 10

一句话总结

本文提出了一种神经故事结尾选择模型，通过可学习的组合门将叙事顺序、情感演变和ConceptNet中的结构化常识知识进行融合。该模型在ROCStories Cloze任务上超越了当前最先进方法，表明显式引入常识知识能显著提升对各类故事的叙事理解与泛化能力。

ABSTRACT

The ability to select an appropriate story ending is the first step towards perfect narrative comprehension. Story ending prediction requires not only the explicit clues within the context, but also the implicit knowledge (such as commonsense) to construct a reasonable and consistent story. However, most previous approaches do not explicitly use background commonsense knowledge. We present a neural story ending selection model that integrates three types of information: narrative sequence, sentiment evolution and commonsense knowledge. Experiments show that our model outperforms state-of-the-art approaches on a public dataset, ROCStory Cloze Task , and the performance gain from adding the additional commonsense knowledge is significant.

研究动机与目标

• 解决现有故事补全模型未能显式利用外部常识知识的局限性。
• 通过整合三种互补信息源（叙事顺序、情感演变、结构化常识知识）来提升叙事理解能力。
• 开发一个端到端可训练的模型，根据上下文相关性动态调整这些信息类型的权重。
• 证明结构化常识知识在提升性能方面的作用，超越仅依赖叙事与情感线索所能达到的效果。

提出的方法

• 基于预训练语言模型的Transformer解码器，用于编码叙事顺序并捕捉故事级依赖关系。
• 采用基于LSTM的架构，建模故事句子间的情感演变，捕捉情绪轨迹。
• 通过在故事和候选结尾中的关键词周围构建子图，从ConceptNet中提取相关常识知识。
• 使用可学习的组合门，动态融合来自叙事、情感和常识组件的表征。
• 使用交叉熵损失端到端训练整个模型，从两个候选结尾中预测正确结尾。
• 利用注意力机制识别在ConceptNet中连接故事元素与合理结尾的关键知识路径。

实验结果

研究问题

• RQ1 结构化常识知识的整合是否能提升故事结尾预测性能，超越仅依赖叙事与情感线索的模型？
• RQ2 在不同故事类型中，不同信息类型（叙事、情感、常识）对模型决策的贡献如何？
• RQ3 模型是否能根据故事上下文动态调整信息源权重，而非采用固定融合策略？
• RQ4 当叙事或情感线索模糊或具有误导性时，模型的处理能力如何？
• RQ5 模型能否泛化到需要外部世界知识（未在叙述中明确陈述）的故事？

主要发现

• 所提模型在ROCStories Cloze任务上相较最强基线模型取得5.2%的显著性能提升，证明了结构化常识知识整合的有效性。
• 在叙事与情感线索模糊或具有误导性的情况下（如‘寻狗’故事），组合门学习到对常识知识赋予更高的注意力权重。
• 在情感演变明显的故事情境中，情感组件获得最高的门权重（0.4880），表明模型能根据主导信号类型自适应调整。
• 当叙事顺序具有误导性时，模型通过更多依赖情感或常识知识组件，成功纠正了错误预测。
• 模型在基于否定的语义区分任务中表现不佳（如‘邀请’ vs. ‘不邀请’），表明未来需整合自然语言蕴涵技术。
• 在所有三个组件中，正确结尾的条件概率始终高于错误结尾，且融合输出的置信度最高。