[论文解读] A multiclass Q-NLP sentiment analysis experiment using DisCoCat

Victor D. Martínez, Guilhaume Leroy-Meline|arXiv (Cornell University)|Sep 7, 2022

Topic Modeling被引用 6

一句话总结

本论文提出了一种基于NISQ时代量子硬件的多类别情感分析框架，采用DisCoCat模型与变分量子线路，将先前的二分类工作扩展至四种类别情感（喜悦、恐惧、愤怒、悲伤）。在180个样本的数据集上，通过COBYLA优化器训练量子线路，实现了78%的F1得分，展示了DisCoCat在量子自然语言处理任务中可扩展性。

ABSTRACT

Sentiment analysis is a branch of Natural Language Processing (NLP) which goal is to assign sentiments or emotions to particular sentences or words. Performing this task is particularly useful for companies wishing to take into account customer feedback through chatbots or verbatim. This has been done extensively in the literature using various approaches, ranging from simple models to deep transformer neural networks. In this paper, we will tackle sentiment analysis in the Noisy Intermediate Scale Computing (NISQ) era, using the DisCoCat model of language. We will first present the basics of quantum computing and the DisCoCat model. This will enable us to define a general framework to perform NLP tasks on a quantum computer. We will then extend the two-class classification that was performed by Lorenz et al. (2021) to a four-class sentiment analysis experiment on a much larger dataset, showing the scalability of such a framework.

研究动机与目标

• 将先前的二分类量子情感分类工作扩展至四分类多类别情感分析任务。
• 评估将DisCoCat模型应用于近期量子硬件上的量子自然语言处理（QNLP）任务的可扩展性与可行性。
• 证明通过张量积表示与后选择机制，量子增强的NLP流水线能够处理更大、更复杂的情感分类任务。
• 评估基于交叉熵损失函数在真实世界四类情感数据集上训练的变分量子线路的性能。
• 探索通过量子数据编码诱导的高维希尔伯特空间中的基于核的学习方法在NLP中实现量子优势的潜力。

提出的方法

• 将句子解析为句法树，并使用DiscoPy（一个开源的幺半群范畴工具包）将它们表示为DisCoCat图示。
• 通过词嵌入的张量积表示（TPR）编码句子语义，利用量子系统相对于经典系统在指数级扩展方面的优势。
• 将DisCoCat图示映射为参数化量子线路（Ansatz），每个词使用两个量子比特，通过控制Z-旋转门和Hadamar d门实现纠缠与叠加。
• 使用交叉熵损失函数与COBYLA优化器训练量子线路参数，该优化器为无梯度方法，适用于噪声中等规模的量子（NISQ）设备。
• 对辅助量子比特（r个）应用后选择，仅保留其测量结果为0的测量运行，以确保最终情感分类的有效性。
• 多次执行量子线路，收集测量量子比特的结果概率，其直接对应于预测的情感类别（如|00⟩, |01⟩等）。

实验结果

研究问题

• RQ1 DisCoCat模型能否在量子NLP流水线上有效从二分类扩展至四分类情感分析？
• RQ2 与经典基线相比，基于多类别情感数据集训练的变分量子线路在F1得分与混淆模式方面的表现如何？
• RQ3 量子线路的架构与后选择机制在多大程度上支持在近期量子硬件上实现可扩展的情感分析？
• RQ4 句长与词汇量对量子NLP流水线的资源需求与性能有何影响？
• RQ5 通过量子线路编码实现的量子增强核映射，是否为情感分析任务中的量子优势提供了可行路径？

主要发现

• 所提出的量子NLP流水线在180个样本的测试集上，针对四类情感分类（喜悦、恐惧、愤怒、悲伤）实现了78%的F1得分。
• 归一化的混淆矩阵在主对角线附近高度集中，表明预测准确度高，且各类情感之间的误分类率较低。
• 训练过程稳定收敛，训练曲线显示交叉熵损失随训练轮次减少（见图7）。
• 对辅助量子比特成功应用了后选择，以筛选出有效测量结果，确保了分类结果的可靠性。
• 该方法表现出词汇量、句子数量与句长与量子比特数量呈线性或次线性增长，支持未来可扩展性。
• 尽管结果具有前景，但经典基线模型（如TF-IDF + 朴素贝叶斯）以95%的准确率表现优于量子模型，凸显了当前量子线路深度与噪声的局限性。