[论文解读] Enhancing Quantum Adversarial Robustness by Randomized Encodings

Weiyuan Gong, Dong Yuan+2 more|arXiv (Cornell University)|Dec 5, 2022

Advancements in Semiconductor Devices and Circuit Design被引用 5

一句话总结

本文提出一种防御策略，通过使用随机酉变换或量子纠错（QEC）编码器，抵御量子分类器的对抗性攻击。证明了随机酉编码器会在对抗性变分量子电路中引发 barren plateaus（灾难性梯度消失），从而指数级抑制对抗性扰动；而级联 QEC 编码器通过提升量子差分隐私，增强鲁棒性，仅需 O(log log n) 个纠错层级即可实现对抗风险的指数级抑制。

ABSTRACT

The interplay between quantum physics and machine learning gives rise to the emergent frontier of quantum machine learning, where advanced quantum learning models may outperform their classical counterparts in solving certain challenging problems. However, quantum learning systems are vulnerable to adversarial attacks: adding tiny carefully-crafted perturbations on legitimate input samples can cause misclassifications. To address this issue, we propose a general scheme to protect quantum learning systems from adversarial attacks by randomly encoding the legitimate data samples through unitary or quantum error correction encoders. In particular, we rigorously prove that both global and local random unitary encoders lead to exponentially vanishing gradients (i.e. barren plateaus) for any variational quantum circuits that aim to add adversarial perturbations, independent of the input data and the inner structures of adversarial circuits and quantum classifiers. In addition, we prove a rigorous bound on the vulnerability of quantum classifiers under local unitary adversarial attacks. We show that random black-box quantum error correction encoders can protect quantum classifiers against local adversarial noises and their robustness increases as we concatenate error correction codes. To quantify the robustness enhancement, we adapt quantum differential privacy as a measure of the prediction stability for quantum classifiers. Our results establish versatile defense strategies for quantum classifiers against adversarial perturbations, which provide valuable guidance to enhance the reliability and security for both near-term and future quantum learning technologies.

研究动机与目标

• 为解决近场 NISQ 设备中量子分类器对对抗性攻击的脆弱性问题。
• 开发一种通用且可证明安全的防御机制，用于抵御量子机器学习中的对抗性扰动。
• 使用量子差分隐私（QDP）作为稳定性度量，量化鲁棒性。
• 研究随机酉编码器与黑箱量子纠错（QEC）编码器在抑制对抗性风险方面的有效性。
• 建立在局部酉和一般对抗性噪声模型下，对抗鲁棒性的理论边界。

提出的方法

• 使用形成 2-design 的随机酉编码器，在分类前对输入数据进行编码，以破坏对抗性优化过程。
• 证明此类编码器会在任意对抗性变分量子电路中引发指数级消失的梯度（barren plateaus），无论输入或电路结构如何。
• 使用量子差分隐私（QDP）衡量预测稳定性，其中 ε-QDP 作为正式的鲁棒性度量。
• 将级联量子纠错（QEC）码作为黑箱编码器，以缓解局部对抗性噪声的影响。
• 推导出一个边界，表明仅需 O(log log n) 个 QEC 层级，即可使受对抗攻击的分类器实现 ε(O(1/√n))-QDP。
• 在聚类-伊辛哈密顿量的拓扑相分类任务上进行数值模拟，以验证该方法在 NISQ 设备上的可行性。

实验结果

研究问题

• RQ1 随机酉编码器是否能普遍抑制变分量子电路中的对抗性扰动？
• RQ2 在局部酉攻击下，量子分类器的对抗性风险是否存在理论边界？
• RQ3 黑箱量子纠错编码器是否能增强对局部对抗性噪声的鲁棒性？
• RQ4 为实现 ε(O(1/√n))-QDP，量子分类器需要多少级 QEC？
• RQ5 所提出的防御策略在最坏情况对抗性噪声下是否依然有效，并且在 NISQ 设备上是否可行？

主要发现

• 形成 2-design 的随机酉编码器会在对抗性变分量子电路中引发指数级消失的梯度（barren plateaus），从而阻止有效对抗性攻击的生成。
• 在局部酉攻击下，量子分类器的对抗性风险是受限制的，且通过充分的随机编码，该边界可被任意缩小。
• 黑箱量子纠错编码器通过增强量子差分隐私来降低对抗性风险，且随着编码级联的增加，鲁棒性随之提升。
• 仅需 O(log log n) 个 QEC 层级，即可保证在对抗攻击下，量子分类器实现 ε(O(1/√n))-QDP，从而确保高概率鲁棒性。
• 数值模拟证实，该防御策略在 NISQ 设备上对聚类-伊辛哈密顿量的拓扑相分类任务中具有可行性和有效性。
• 所提出的防御策略具有通用性，适用于近场及未来容错量子学习系统，提供强有力的理论保障。