[论文解读] eXplainable AI for Quantum Machine Learning

Patrick Steinmüller, Tobias Schulz+2 more|arXiv (Cornell University)|Nov 2, 2022

Explainable Artificial Intelligence (XAI)被引用 9

一句话总结

本文提出 qSHAP，一种专为含参量量子线路（PQC）在量子机器学习中设计的新型可解释性方法。通过利用 PQCs 的傅里叶级数结构，qSHAP 加速了 SHAP 值的计算，并相比标准 xAI 方法（如积分梯度）降低了对噪声的敏感度，实现了特征数量上的多项式时间复杂度，而非量子比特数量。

ABSTRACT

Parametrized Quantum Circuits (PQCs) enable a novel method for machine learning (ML). However, from a computational point of view they present a challenge to existing eXplainable AI (xAI) methods. On the one hand, measurements on quantum circuits introduce probabilistic errors which impact the convergence of these methods. On the other hand, the phase space of a quantum circuit expands exponentially with the number of qubits, complicating efforts to execute xAI methods in polynomial time. In this paper we will discuss the performance of established xAI methods, such as Baseline SHAP and Integrated Gradients. Using the internal mechanics of PQCs we study ways to speed up their computation.

研究动机与目标

• 解决由于相空间指数膨胀和概率测量导致的标准 xAI 方法在噪声含参量量子线路（PQC）上应用的挑战。
• 降低 NISQ 时代量子机器学习模型中可解释性的计算开销。
• 开发一种随特征数量而非量子比特数量呈多项式缩放的方法，提升大规模线路的效率。
• 与现有黑箱 xAI 方法相比，最小化量子噪声对解释质量的负面影响。
• 使基于 PQC 的模型在需要透明度的高风险应用中具备实际可解释性，以符合欧盟人工智能法案等法规要求。

提出的方法

• 利用 PQCs 作为截断傅里叶级数的数学结构，将模型输出分解为频率分量。
• 使用量子线路采样通过蒙特卡洛积分估算 SHAP 值，采样规模由收敛准则确定。
• 应用傅里叶步长识别活跃的傅里叶模态，从而缩小解释计算的搜索空间。
• 实施多项式时间后处理步骤，基于识别出的傅里叶模态计算 SHAP 值。
• 将傅里叶分解与 PolynomialSHAP 集成，实现高效、近似的 SHAP 值计算。
• 优化方法以减少对重复量子线路评估的依赖，降低在 NISQ 硬件上的运行时间。

实验结果

研究问题

• RQ1 如何将如积分梯度和 SHAP 等成熟 xAI 方法适配到 PQCs 的独特挑战中，如概率测量和指数相空间？
• RQ2 能否利用 PQCs 的傅里叶级数表示，设计出比标准黑箱方法更高效且抗噪声的 xAI 方法？
• RQ3 xAI 方法在 PQCs 中相对于量子比特和特征数量的缩放行为如何？是否可被改进？
• RQ4 NISQ 设备中的噪声如何影响量子机器学习模型 xAI 解释的可靠性与收敛性？
• RQ5 能否利用 PQCs 的结构推导出一种避免指数缩放的 SHAP 值计算多项式时间算法？

主要发现

• qSHAP 将标准 xAI 方法的指数缩放从量子比特数量降低到特征数量，使更大线路的计算成为可能。
• 与积分梯度和基线 SHAP 相比，该方法显著降低了对噪声的敏感度，提升了在噪声 NISQ 硬件上的解释可靠性。
• 在 Rigetti-M-11 硬件上，qSHAP 的运行时间分别为：单量子比特模型（250 次采样）399.5 秒，双量子比特模型 497.2 秒，四量子比特模型 682.5 秒，其中傅里叶步骤和多项式步骤是主要的非量子组件。
• 积分梯度方法每个特征需 20 次评估，运行时间在 240.8 至 343.4 秒之间，与 qSHAP 在相似解释质量下相比运行时间更长。
• 傅里叶模态识别步骤随特征数量呈指数缩放，使特征数量成为主要瓶颈，而非量子比特数量。
• 理论分析证实，qSHAP 的复杂度在特征数量上为多项式，而标准 xAI 方法由于相空间扩展，其复杂度随量子比特数量呈指数增长。