[论文解读] Semantic Unification A sheaf theoretic approach to natural language

Samson Abramsky, Mehrnoosh Sadrzadeh|arXiv (Cornell University)|Mar 13, 2014

Cognitive Science and Education Research参考文献 10被引用 5

一句话总结

本文提出了一种层析理论框架，用于建模自然语言中的语境语义，通过粘合（gluing）将话语片段的局部语义统一为全局语义结构。该方法应用于回指消解，展示了如何通过语料库中的概率分布与层析粘合相结合，实现对最可能的回指映射的选择，如以'ripe bananas'和'cheeky monkeys'为例的案例研究。

ABSTRACT

Language is contextual and sheaf theory provides a high level mathematical framework to model contextuality. We show how sheaf theory can model the contextual nature of natural language and how gluing can be used to provide a global semantics for a discourse by putting together the local logical semantics of each sentence within the discourse. We introduce a presheaf structure corresponding to a basic form of Discourse Representation Structures. Within this setting, we formulate a notion of semantic unification --- gluing meanings of parts of a discourse into a coherent whole --- as a form of sheaf-theoretic gluing. We illustrate this idea with a number of examples where it can used to represent resolutions of anaphoric references. We also discuss multivalued gluing, described using a distributions functor, which can be used to represent situations where multiple gluings are possible, and where we may need to rank them using quantitative measures. Dedicated to Jim Lambek on the occasion of his 90th birthday.

研究动机与目标

• 使用层析理论建模自然语言的语境特性，提供语境性的数学框架。
• 通过将单个句子的局部语义粘合为连贯的全局结构，形式化话语语义。
• 将传统的基于约束的回指消解扩展为基于偏好的情形，使用统计分布。
• 通过层析函子与分布函子，将结构化语义（通过DRT）与统计语料数据相结合。
• 为话语提供一种组合性、数学上严谨的语义，能够处理回指引用与指代合并。

提出的方法

• 将话语建模为话语片段范畴上的预层，为每个片段分配局部语义集合（截面）。
• 通过层论的余极限定义粘合，将兼容的局部截面统一为表示连贯话语语义的全局截面。
• 将回指引用消解表示为从回指代词到潜在先行词的覆盖映射，诱导出候选全局截面。
• 使用语料频率计算可能覆盖（即指代映射）上的概率分布，建模消解之间的偏好。
• 将层析函子与分布函子复合，生成全局粘合上的概率测度，从而实现对消解结果的排序。
• 将该方法应用于真实语言实例，如'ripe bananas'和'cheeky monkeys'，利用英国新闻语料库提取统计模式与频率。

实验结果

研究问题

• RQ1 如何利用层析理论建模自然语言话语的语境语义？
• RQ2 如何系统性地将单个句子的局部语义粘合为全局话语语义？
• RQ3 如何在组合性框架中使用定量度量对多种可能的回指消解进行排序？
• RQ4 语料统计在指导模糊回指情形中最优粘合选择中起什么作用？
• RQ5 层析理论粘合能否为包含回指的语篇提供一种形式化、组合性的替代蒙塔古式语义？

主要发现

• 层析理论粘合框架成功地将局部话语语义统一为全局语义结构，通过兼容截面的延拓建模语境性。
• 在'ripe'和'cheeky'形容词的例子中，最可能的消解为'ripe banana'和'cheeky monkey'，概率为0.521（14+10）/48，对应全局截面t₂。
• 粘合上的概率分布通过语料频率计算得出：'ripe banana'出现14次，'cheeky monkey'出现10次，其共现是最可能的配对。
• 该模型为'ripe'和'cheeky'均指代香蕉的消解分配了0.29的概率，为两者均指代猴子的消解分配了0.205的概率。
• 该框架通过结合结构化粘合与来自大规模语料库的统计分布，支持基于偏好的回指消解。
• 该方法为话语提供了一种形式化、组合性的语义，能够以避免蒙塔古式语义局限的方式处理回指引用与指代合并。