[论文解读] Study of Feature Importance for Quantum Machine Learning Models

Aaron K. Baughman, Kavitha Yogaraj+4 more|arXiv (Cornell University)|Feb 18, 2022

Quantum Computing Algorithms and Architecture被引用 5

一句话总结

本论文首次系统研究了量子机器学习（QML）模型中的特征重要性，基于ESPN梦幻足球数据，将量子支持向量分类器（QSVC）和变分量子线路（VQC）与它们的经典对应模型进行比较。利用Qiskit模拟器和IBM量子硬件，研究发现QML模型的特征重要性幅度存在显著更高的波动性，通过多样性度量表明其与经典模型具有互补性。

ABSTRACT

Predictor importance is a crucial part of data preprocessing pipelines in classical and quantum machine learning (QML). This work presents the first study of its kind in which feature importance for QML models has been explored and contrasted against their classical machine learning (CML) equivalents. We developed a hybrid quantum-classical architecture where QML models are trained and feature importance values are calculated from classical algorithms on a real-world dataset. This architecture has been implemented on ESPN Fantasy Football data using Qiskit statevector simulators and IBM quantum hardware such as the IBMQ Mumbai and IBMQ Montreal systems. Even though we are in the Noisy Intermediate-Scale Quantum (NISQ) era, the physical quantum computing results are promising. To facilitate current quantum scale, we created a data tiering, model aggregation, and novel validation methods. Notably, the feature importance magnitudes from the quantum models had a much higher variation when contrasted to classical models. We can show that equivalent QML and CML models are complementary through diversity measurements. The diversity between QML and CML demonstrates that both approaches can contribute to a solution in different ways. Within this paper we focus on Quantum Support Vector Classifiers (QSVC), Variational Quantum Circuit (VQC), and their classical counterparts. The ESPN and IBM fantasy football Trade Assistant combines advanced statistical analysis with the natural language processing of Watson Discovery to serve up personalized trade recommendations that are fair. Here, player valuation data of each player has been considered and this work can be extended to calculate the feature importance of other QML models such as Quantum Boltzmann machines.

研究动机与目标

• 研究并比较量子机器学习（QML）模型与经典机器学习（CML）模型中的特征重要性。
• 使用量子模拟器和实际量子硬件，评估QML模型在真实世界数据上的性能与可靠性。
• 开发并应用适用于当前NISQ时代量子系统的新型数据分层、模型聚合和验证技术。
• 量化QML与CML模型特征重要性的差异，以评估其在模型解释中的互补作用。
• 将该框架扩展以支持未来对其他QML模型（如量子玻尔兹曼机）的探索。

提出的方法

• 采用混合量子-经典架构，基于ESPN梦幻足球球员估值数据训练QML模型（QSVC和VQC）。
• 通过在训练后的量子模型上应用经典后处理算法计算特征重要性，以实现可解释性。
• 在Qiskit状态矢量模拟器以及实际的IBMQ硬件（包括IBMQ Mumbai和IBMQ Montreal）上执行量子线路。
• 应用数据分层策略以管理量子资源限制并提升模型可扩展性。
• 引入模型聚合和新颖的验证方法，以增强在噪声量子设备上结果的可靠性与泛化能力。
• 使用多样性度量比较QML与CML模型的特征重要性分布，评估其互补性。

实验结果

研究问题

• RQ1 QML模型中特征重要性的幅度和分布与经典机器学习模型相比如何？
• RQ2 与经典模型相比，QML模型在特征重要性方面表现出多大程度的更高变异性？
• RQ3 基于特征重要性的多样性，QML与CML模型能否被视为互补？
• RQ4 当在当前NISQ时代量子硬件上执行时，量子模型在真实世界数据上的表现如何？
• RQ5 为实现在当前量子计算系统中可靠地进行特征重要性分析，需要哪些方法论上的调整？

主要发现

• QML模型中的特征重要性幅度相比经典模型表现出显著更高的波动性，表明其对输入特征具有更高的敏感性。
• 尽管存在噪声，基于IBMQ硬件训练的量子模型仍产生了可靠结果，证明了其在NISQ时代的可行性。
• 通过定量测量，确认了QML与CML模型特征重要性分布之间的差异，证实了两种模型类型在模型解释中均具有独特贡献。
• 混合量子-经典框架即使在当前量子硬件限制下，也能有效实现特征重要性的计算。
• 本研究为将特征重要性分析扩展至其他QML模型（如量子玻尔兹曼机）奠定了基础。
• 模型聚合与数据分层技术提高了在真实世界数据集上QML特征重要性评估的鲁棒性与可扩展性。