[论文解读] Hybrid Quantum-Classical Machine Learning for Sentiment Analysis

Abu Kaisar Mohammad Masum, Anshul Maurya+3 more|arXiv (Cornell University)|Oct 8, 2023

Quantum Computing Algorithms and ArchitectureComputer Science被引用 3

一句话总结

该论文提出了一种混合量子-经典机器学习框架，用于情感分析，结合了量子核方法（QSVM）和变分量子线路（VQC），并利用主成分分析（PCA）和哈尔小波变换进行经典降维。该方法在英语和孟加拉语数据集上均实现了稳定的准确率提升，分别达到84%和72%，尤其在将哈尔变换与量子模型结合时表现更优，优于相同压缩条件下的经典SVM。

ABSTRACT

The collaboration between quantum computing and classical machine learning offers potential advantages in natural language processing, particularly in the sentiment analysis of human emotions and opinions expressed in large-scale datasets. In this work, we propose a methodology for sentiment analysis using hybrid quantum-classical machine learning algorithms. We investigate quantum kernel approaches and variational quantum circuit-based classifiers and integrate them with classical dimension reduction techniques such as PCA and Haar wavelet transform. The proposed methodology is evaluated using two distinct datasets, based on English and Bengali languages. Experimental results show that after dimensionality reduction of the data, performance of the quantum-based hybrid algorithms were consistent and better than classical methods.

研究动机与目标

• 开发一种混合量子-经典机器学习流水线，用于情感分析，利用量子计算在特征映射和分类方面的优势。
• 研究量子核方法（QSVM）和参数化量子线路（VQC）在多语言文本情感分类中的有效性。
• 评估降维技术——主成分分析（PCA）和哈尔小波变换——在将经典NLP特征高效编码至NISQ时代量子硬件中的作用。
• 在相同数据压缩条件下，将量子-经典模型与经典SVM进行比较，评估其鲁棒性与性能权衡。
• 展示在低资源语言和语言结构复杂的语言（如孟加拉语）中，量子增强情感分析的可行性与优越性。

提出的方法

• 该框架结合了经典NLP预处理与量子机器学习模型，使用词嵌入和句子分词技术处理英语和孟加拉语文本。
• 量子特征映射通过泡利基电路实现，通过 $ f_{q_j,q_k}(x) = (\pi - x[j])(\pi - x[k]) $ 映射纠缠的量子比特对，通过 $ f_{q_m}(x) = x[m] $ 映射单个量子比特。
• 变分量子分类器（VQC）使用ADAM优化器进行训练，以最小化参数化量子线路的损失函数。
• 量子支持向量机（QSVC）通过Qiskit的预构建库实现，利用量子核进行经典SVM分类。
• 通过主成分分析（PCA）降低特征空间维度，通过哈尔小波变换压缩数据点，测试了最多五级分解。
• 该流水线在两个数据集上评估性能：一个基于Twitter的英语情感分析数据集和一个孟加拉语情感分析数据集，均使用语言特定的NLP技术进行预处理。

Figure 1: Workflow for the proposed hybrid quantum-classical methodology for sentiment analysis.

实验结果

研究问题

• RQ1 当应用于多语言文本时，混合量子-经典模型是否能相比经典方法提升情感分类准确率？
• RQ2 主成分分析（PCA）和哈尔小波变换等降维技术在将经典NLP特征高效编码至量子线路方面的有效性如何？
• RQ3 在数据压缩条件下，将哈尔小波变换与量子-经典模型结合是否能带来优于经典SVM的性能？
• RQ4 在情感分析任务中，基于量子核（QSVM）和基于变分量子线路（VQC）的模型在准确率和训练效率方面如何比较？
• RQ5 语言特定特征（如孟加拉语）在多大程度上影响量子增强情感分析模型的性能？

主要发现

• 在英语数据集上，混合量子-经典模型实现了84%的测试准确率，显著优于相同压缩条件下的经典SVM。
• 在孟加拉语数据集上，模型在降维后仍保持72.22%的稳定测试准确率，与未压缩的经典模型性能相当。
• VQC算法在所有特征集和分解级别中训练时间最短，且在最多五级哈尔分解下保持稳定准确率。
• 当使用哈尔变换对数据点进行压缩时，量子-经典模型达到71.23%的准确率，而经典SVM在仅一级分解时准确率下降至58%。
• QSVC和VQC模型在Twitter（英语）数据集上的测试和训练准确率（70–71%）高于量子核SVM，且VQC训练速度最快。
• 哈尔小波变换与量子-经典模型的结合在压缩条件下比经典SVM更有效，表明在数据高效学习中存在量子优势。

Figure 2: Bengali text pre-processing method for sentiment analysis.