[论文解读] Subtleties in the trainability of quantum machine learning models

Supanut Thanasilp, Samson Wang+3 more|arXiv (Cornell University)|Oct 27, 2021

Quantum Computing Algorithms and Architecture参考文献 68被引用 9

一句话总结

本文证明了变分量子算法（VQAs）中的梯度缩放与 barren plateau 现象可直接应用于量子机器学习（QML）模型，揭示了诸如深度非结构化电路和全局测量等特性会损害 QML 的可训练性。此外，本文识别出一种新问题——数据集引起的 barren plateau（DIBPs），其源于经典数据编码，若不考虑可训练性而设计编码方案，将严重损害训练效果。

ABSTRACT

A new paradigm for data science has emerged, with quantum data, quantum models, and quantum computational devices. This field, called Quantum Machine Learning (QML), aims to achieve a speedup over traditional machine learning for data analysis. However, its success usually hinges on efficiently training the parameters in quantum neural networks, and the field of QML is still lacking theoretical scaling results for their trainability. Some trainability results have been proven for a closely related field called Variational Quantum Algorithms (VQAs). While both fields involve training a parametrized quantum circuit, there are crucial differences that make the results for one setting not readily applicable to the other. In this work we bridge the two frameworks and show that gradient scaling results for VQAs can also be applied to study the gradient scaling of QML models. Our results indicate that features deemed detrimental for VQA trainability can also lead to issues such as barren plateaus in QML. Consequently, our work has implications for several QML proposals in the literature. In addition, we provide theoretical and numerical evidence that QML models exhibit further trainability issues not present in VQAs, arising from the use of a training dataset. We refer to these as dataset-induced barren plateaus. These results are most relevant when dealing with classical data, as here the choice of embedding scheme (i.e., the map between classical data and quantum states) can greatly affect the gradient scaling.

研究动机与目标

• 弥合变分量子算法（VQAs）与量子机器学习（QML）模型之间可训练性结果的差距。
• 探究从 VQA 衍生出的梯度缩放与 barren plateau 结果是否适用于 QML 场景。
• 识别在 QML 中出现但 VQA 中不存在的新可训练性问题，特别是由于使用经典训练数据集所致。
• 证明不良的数据编码方案即使在量子电路结构良好时，仍可能在 QML 中引发 barren plateau。
• 倡导开发面向可训练性的量子数据编码方案，以推动 QML 发展。

提出的方法

• 建立了 VQAs 中线性代价函数梯度与 QML 中均方误差和对数似然代价函数梯度之间的数学关联。
• 证明了 VQAs 中的梯度缩放结果（如 barren plateau 中梯度的指数级消失）可推广至 QML 模型。
• 识别出 QML 中一种新的 barren plateau 来源，称为数据集引起的 barren plateau（DIBPs），其源于数据集结构与编码映射之间的相互作用。
• 通过理论分析表明，当经验 Fisher 信息矩阵的元素呈指数级缩小时，DIBPs 会出现，导致优化在计算上不可行。
• 通过数值模拟验证了 DIBP 现象，展示了其对数据集结构与编码选择的敏感性。
• 对 MNIST 数据集评估了 Havlíček 等人的编码方案，发现其尽管在经典上难以模拟，却仍导致较大的泛化误差。

实验结果

研究问题

• RQ1 VQAs 中的梯度缩放与 barren plateau 结果能否被严格推广至 QML 模型？
• RQ2 由于使用经典数据集，在 QML 中出现了哪些在 VQA 中未出现的新可训练性问题？
• RQ3 量子数据编码的选择如何影响 QML 中的梯度缩放与 barren plateau 潜在性？
• RQ4 一种在经典上难以模拟的量子编码，是否仍可能导致 QML 中泛化性能差与训练表现不佳？
• RQ5 数据集结构与编码设计在多大程度上共同决定了数据集引起的 barren plateau 的存在？

主要发现

• VQAs 中的梯度缩放结果（包括 barren plateau 中梯度的指数级消失）可直接应用于 QML 模型，这意味着深度非结构化电路和全局测量等特性会严重损害 QML 的可训练性。
• 一种新型的 barren plateau——数据集引起的 barren plateau（DIBPs）——在 QML 中出现，其源于训练数据集与数据编码之间的相互作用，即使量子电路结构良好亦无法避免。
• 在 DIBPs 情况下，QML 中的经验 Fisher 信息矩阵可能具有指数级小的元素，导致标准优化方法在不使用指数级资源的情况下完全失效。
• 编码方案的选择对可训练性具有决定性影响：即使是一种在经典上难以模拟的编码（如 Havlíček 等人提出的方案），仍可能导致 QML 中泛化性能差与测试误差大。
• 数值模拟证实，数据集结构与编码选择显著影响梯度缩放，某些组合甚至会导致接近零的梯度。
• 结果表明，成功的 QML 编码必须满足三个标准：实际可用性、经典不可模拟性，以及可训练性——尤其应避免 DIBPs。