[论文解读] Meaning updating of density matrices

Bob Coecke, Konstantinos Meichanetzidis|arXiv (Cornell University)|Jan 3, 2020

Topic Modeling参考文献 41被引用 9

一句话总结

本文提出了一种基于双密度矩阵的图示化内部更新机制，用于自然语言处理中的意义表征，统一了量子基础中的非交换更新过程与词汇歧义建模。该方法扩展了DisCoCirc，实现了时序性、非交换的意义更新，具有代数一致性，并可在量子硬件上实现。

ABSTRACT

The DisCoCat model of natural language meaning assigns meaning to a sentence given: (i) the meanings of its words, and, (ii) its grammatical structure. The recently introduced DisCoCirc model extends this to text consisting of multiple sentences. While in DisCoCat all meanings are fixed, in DisCoCirc each sentence updates meanings of words. In this paper we explore different update mechanisms for DisCoCirc, in the case where meaning is encoded in density matrices---which come with several advantages as compared to vectors. Our starting point are two non-commutative update mechanisms, borrowing one from quantum foundations research, from Leifer and Spekkens. Unfortunately, neither of these satisfies any desirable algebraic properties, nor are internal to the meaning category. By passing to double density matrices we do get an elegant internal diagrammatic update mechanism. We also show that (commutative) spiders can be cast as an instance of the Leifer-Spekkens update mechanism. This result is of interest to quantum foundations, as it bridges the work in Categorical Quantum Mechanics (CQM) with that on conditional quantum states. Our work also underpins implementation of text-level natural language processing on quantum hardware (a.k.a. QNLP), for which exponential space-gain and quadratic speed-up have previously been identified.

研究动机与目标

• 为解决DisCoCat静态意义表征的局限性，提出动态的、句子级别的意义更新机制。
• 在一个统一的、代数一致的框架内，整合现有的两种非交换更新机制——fuzz与phaser。
• 在密度矩阵与完全正映射的范畴内，提供一种内部的、图示化的更新机制。
• 通过与强测量和量子线路兼容的形式化，实现文本级NLP在近场量子硬件上的实现。

提出的方法

• 引入双密度矩阵作为形式化，将意义更新过程内化于意义范畴之中。
• 通过非交换蜘蛛与条件密度矩阵的图示化复合，表示句子级别的更新。
• 利用fuzz机制对歧义形容词（如“black”）进行建模，通过凸组合结合多个意义分支。
• 证明phaser机制——最初源自量子贝叶斯推理——可从非交换设置中的蜘蛛推导得出。
• 表明fuzz与phaser均为双密度矩阵更新形式化的特例。
• 使用正交基与秩-1投影算符对词的意义及其更新进行建模，并通过颜色与歧义性的具体例子加以说明。

实验结果

研究问题

• RQ1 如何形式化文本中的意义更新，以尊重时序顺序与非交换性？
• RQ2 fuzz与phaser更新机制能否在单一、代数一致的框架下统一？
• RQ3 是否存在一种方式，将意义更新内化于密度矩阵与完全正映射的范畴之中？
• RQ4 该形式化是否可实现在近期量子硬件上？
• RQ5 双密度矩阵如何实现意义更新的图示化、组合式处理？

主要发现

• 双密度矩阵形式化提供了一种内部的、图示优雅的更新机制，满足理想的代数性质，而原始的fuzz与phaser机制不具备此特性。
• phaser更新机制被证明是非交换蜘蛛对交换蜘蛛的非交换推广，从而在单一框架内统一了二者。
• fuzz机制成功地对词汇歧义进行建模，例如在“black metal”中既表示流派又表示材料，通过凸组合结合意义分支。
• 具体例子表明，“door turns red”与“door turns black”通过使用非对易的秩-1投影算符进行序列投影更新得以建模。
• 该形式化与量子硬件兼容，因为双密度矩阵可通过标准密度矩阵结合强测量实现。
• 经验合理性得到语料库期望的支持：歧义形容词根据上下文进行消歧，且模型再现了预期的意义转移。