[论文解读] Impact of Barren Plateaus on the Hessian and Higher Order Derivatives

M. Cerezo, Patrick J. Coles|arXiv (Cornell University)|Aug 17, 2020

Neural Networks and Applications被引用 18

一句话总结

本文表明，在存在梯度消失区域（Barren Plateaus, BPs）时，量子神经网络中的Hessian矩阵及其高阶导数呈指数级抑制，这意味着基于Hessian的优化方法无法克服梯度的指数级缩放问题。研究结果表明，梯度消失问题的影响不仅限于一阶优化，还扩展至所有基于导数的变分量子算法优化策略。

ABSTRACT

The Barren Plateau (BP) phenomenon is an issue for certain quantum neural networks and variational quantum algorithms, whereby the gradient vanishes exponentially in the system size $n$. The question of whether high-order derivative information such as the Hessian could help escape a BP was recently posed in the literature. Here we show that the elements of the Hessian are exponentially suppressed in a BP, so estimating the Hessian in this situation would require a precision that scales exponentially with $n$. Hence, Hessian-based approaches do not circumvent the exponential scaling associated with BPs. We also show the exponential suppression of higher order derivatives. Hence, BPs will impact optimization strategies that go beyond (first-order) gradient descent.

研究动机与目标

• 研究Hessian矩阵或更高阶导数是否能够缓解变分量子算法中的梯度消失问题（Barren Plateau, BP）
• 分析在出现梯度消失区域的系统中，Hessian矩阵及更高阶导数的缩放行为
• 确定除一阶梯度外的基于导数的优化方法是否能够摆脱梯度消失区域所特有的指数级梯度抑制特性

提出的方法

• 在梯度消失区域条件下，对量子神经网络中Hessian矩阵的理论分析
• 推导并评估在参数随机的量子电路中，Hessian元素期望值随系统尺寸n增加的变化
• 将分析扩展至更高阶导数，证明其在相同区域中同样呈现指数级抑制
• 采用随机电路ansatz来模拟变分量子算法中的典型行为
• 应用测度集中技术，量化导数随系统尺寸n的缩放关系
• 比较梯度、Hessian矩阵及更高阶导数的大小，以评估优化的可行性

实验结果

研究问题

• RQ1 在梯度消失区域存在时，Hessian矩阵的元素是否呈指数级抑制？
• RQ2 Hessian矩阵的指数抑制是否与梯度以相同方式随系统尺寸n缩放？
• RQ3 基于Hessian的优化策略是否能够摆脱变分量子算法中的梯度消失问题？
• RQ4 更高阶导数在梯度消失区域是否也受到指数级抑制？
• RQ5 更高阶导数的指数级缩放是否意味着所有基于导数的优化方法（除一阶方法外）均不可行？

主要发现

• 在梯度消失区域中，Hessian矩阵元素的抑制程度与系统尺寸n成指数关系，缩放为O(e^(-n))
• 在梯度消失区域中估计Hessian矩阵所需的精度随n指数增长，导致大系统中不可行
• 与Hessian矩阵类似，更高阶导数在梯度消失区域中同样呈现指数级抑制
• 更高阶导数的指数级抑制意味着依赖这些导数的优化策略，与一阶方法一样面临相同的根本性缩放限制
• 使用二阶或更高阶优化技术无法规避梯度消失问题，因为所有此类导数均受到类似影响