[论文解读] lambeq: An Efficient High-Level Python Library for Quantum NLP

Dimitri Kartsaklis, Ian Fan+8 more|arXiv (Cornell University)|Oct 8, 2021

Scientific Computing and Data Management参考文献 32被引用 9

一句话总结

lambeq 是一个开源的高级 Python 库，通过使用字符串图和张量网络将句子转换为量子线路，实现了端到端的量子自然语言处理（QNLP）。它支持多种组合模型、语法解析、线路优化，并可与量子及经典机器学习框架集成，在小型 NLP 基准测试中，无论在无噪声还是有噪声的量子模拟中均实现了完美的测试准确率。

ABSTRACT

We present lambeq, the first high-level Python library for Quantum Natural Language Processing (QNLP). The open-source toolkit offers a detailed hierarchy of modules and classes implementing all stages of a pipeline for converting sentences to string diagrams, tensor networks, and quantum circuits ready to be used on a quantum computer. lambeq supports syntactic parsing, rewriting and simplification of string diagrams, ansatz creation and manipulation, as well as a number of compositional models for preparing quantum-friendly representations of sentences, employing various degrees of syntax sensitivity. We present the generic architecture and describe the most important modules in detail, demonstrating the usage with illustrative examples. Further, we test the toolkit in practice by using it to perform a number of experiments on simple NLP tasks, implementing both classical and quantum pipelines.

研究动机与目标

• 弥合理论 QNLP 与在近期量子硬件上实际实现之间的差距。
• 为研究人员提供一个模块化、可扩展且用户友好的工具包，用于原型设计和实验量子 NLP 管道。
• 支持多种组合模型——词袋模型、词序模型以及基于语法的 DisCoCat 模型，提供不同程度的语法敏感性。
• 实现与量子编译器及经典机器学习库（如 PyTorch 和 JAX）的无缝集成，用于训练和模拟。
• 为未来支持高级功能（如图示微分、基于 Transformer 的解析和文档级语篇建模）奠定基础。

提出的方法

• 该流程从组合范畴语法（CCG）解析开始，以生成语法结构，使用集成在工具包中的最先进解析器。
• 使用 DisCoPy（一个用于图示推理和张量网络操作的后端库）将解析树转换为字符串图。
• 通过重写规则对字符串图进行转换，以简化或优化表示，再进行线路转换。
• 使用参数化 ansatz 将字符串图映射为量子线路，支持量子和经典（张量网络）执行。
• 该库使用 IBM Quantum Aer 模拟器支持无噪声和有噪声的量子模拟，优化算法为 SPSA。
• 该工具包设计为可扩展，支持插入新的组合模型、解析器、ansatz，并可未来集成图示微分，以实现在量子机器学习中的自动微分。

实验结果

研究问题

• RQ1 一个高级的、模块化的 Python 库能否简化从自然语言到量子线路的端到端量子 NLP 管道实现？
• RQ2 不同组合模型（从词袋模型到语法敏感的 DisCoCat）如何影响量子 NLP 模型的性能和表达能力？
• RQ3 在噪声模拟器上通过 SPSA 训练的量子线路在小规模 NLP 任务中能达到多高的准确率？
• RQ4 该同一管道能否在极少代码修改的情况下同时用于经典张量网络训练和量子线路执行？
• RQ5 采用图示化、组合式方法构建的 QNLP 管道在多大程度上可实现可扩展性，同时保持语言结构？

主要发现

• 该工具包成功地使用三种不同的组合模型将句子转换为量子线路，其中语法感知的 DisCoCat 模型提供了最符合语言学特征的表示。
• 使用张量网络的经典实验在 Lorenz 等人（2021）的意义分类数据集上实现了完美准确率，证明了经典模拟在模型开发中的可行性。
• 在无噪声的量子模拟中，量子管道成功收敛并实现了完美测试准确率，尽管初期存在不稳定性与波动。
• 即使在有噪声的基于采样次数的模拟条件下，量子管道仍实现了完美测试准确率，表明其在小规模实验中对噪声具有鲁棒性。
• 该库支持可重现且模块化的实验，通过单一统一框架同时支持量子和经典工作流。
• 该工具包已在先前研究中投入使用，包括在硬件上进行的早期量子 NLP 实验，以及基于《爱丽丝梦游仙境》的超过 3000 个已解析句子的大规模 DisCoCat 资源的构建。