[论文解读] Interacting Conceptual Spaces I : Grammatical Composition of Concepts

Joe Bolt, Bob Coecke+4 more|arXiv (Cornell University)|Mar 24, 2017

Natural Language Processing Techniques被引用 5

一句话总结

本文通过将凸关系形式化为数学结构，提出了一种新颖的范畴组合框架，用于概念空间，实现了对名词、形容词和动词等概念的系统性组合。该框架通过将范畴语法的约化映射到概念空间中保持凸结构的操作，建立了认知的组合语义，为认知建模中的意义组合提供了严谨基础。

ABSTRACT

The categorical compositional approach to meaning has been successfully applied in natural language processing, outperforming other models in mainstream empirical language processing tasks. We show how this approach can be generalized to conceptual space models of cognition. In order to do this, first we introduce the category of convex relations as a new setting for categorical compositional semantics, emphasizing the convex structure important to conceptual space applications. We then show how to construct conceptual spaces for various types such as nouns, adjectives and verbs. Finally we show by means of examples how concepts can be systematically combined to establish the meanings of composite phrases from the meanings of their constituent parts. This provides the mathematical underpinnings of a new compositional approach to cognition.

研究动机与目标

• 为解决认知科学中组合意义建构的挑战，将范畴组合语义从向量空间扩展至概念空间。
• 形式化一种新的数学设定——凸关系，以保持建模稳健且几何一致的概念所必需的凸结构。
• 展示预群语法中的语法类型约化如何系统性地映射到概念空间中的操作，从而实现组合意义建构。
• 为在人工智能和认知架构中整合符号性组合性与几何认知语义提供理论基础。

提出的方法

• 引入范畴 $\mathbf{ConvexRel}$，即保持凸结构的凸代数与二元关系的范畴，作为范畴组合模型的新语义范畴。
• 通过在 $\mathbf{ConvexRel}$ 框架内将适当凸结构分配给语言类型（名词、形容词和动词），构建这些类型的概念空间。
• 通过保持组合结构的函子，将预群语法的类型约化映射到 $\mathbf{ConvexRel}$ 中的操作，从而实现复合短语意义的推导。
• 采用范畴框架，通过将句法组合翻译为语义组合的函子，统一语法（语法范畴）与意义（语义范畴）。
• 利用预群的抽象张量结构，并将其扩展至凸关系，确保与现有范畴组合模型的兼容性。
• 将该框架应用于具体的语言实例，展示表示概念的凸集如何通过关系组合形成复合意义。

实验结果

研究问题

• RQ1 自然语言语法的组合结构如何系统性地映射到概念空间中的意义几何表示？
• RQ2 在认知语义学中组合概念时，需要何种数学结构以保持凸性？
• RQ3 原本为向量空间开发的范畴组合方法，能否推广至具有凸结构的概念空间？
• RQ4 名词、动词和形容词如何在统一的几何框架中被正式表示并组合？
• RQ5 凸关系在实现尊重认知合理性与几何一致性的组合意义建构中起什么作用？

主要发现

• 引入了范畴 $\mathbf{ConvexRel}$ 作为新语义范畴，支持预群语法的组合结构，同时保持凸性，这是概念空间中的关键要求。
• 本文证明了预群语法中的语法类型约化可以系统性地映射到 $\mathbf{ConvexRel}$ 中的操作，从而能够从组成部分推导出复合意义。
• 在 $\mathbf{ConvexRel}$ 框架内成功构建了名词、形容词和动词的概念空间，表明这些类型可表示为凸集与关系。
• 该方法为组合认知提供了数学上严谨的基础，统一了句法结构与几何认知语义。
• 该框架通过关系组合凸集来实现复杂短语和句子的组合，同时保持认知合理性与几何一致性。
• 该工作为整合组合语义与认知架构、数据驱动的概念空间，以及未来涉及逻辑与动态的扩展开辟了新途径。