[论文解读] Gradient Estimation with Simultaneous Perturbation and Compressive Sensing

Vivek S. Borkar, Vikranth Dwaracherla+1 more|arXiv (Cornell University)|Nov 27, 2015

Sparse and Compressive Sensing Techniques参考文献 30被引用 4

一句话总结

该论文提出了一种新颖的梯度估计方法，结合同时扰动随机逼近（SPSA）与压缩感知，仅通过极少的函数评估即可在高维空间中估计梯度。通过利用梯度的稀疏性及 $ \boldsymbol{\nabla}f $-稀疏结构，该方法在仅使用 $ m \triangleq O(s \text{log}(n/s)) $ 次测量的情况下实现了高精度的梯度恢复，显著降低了在函数评估成本高昂场景下的计算开销，其有效性已在高维优化与流形学习任务的仿真中得到验证。

ABSTRACT

This paper aims at achieving a "good" estimator for the gradient of a function on a high-dimensional space. Often such functions are not sensitive in all coordinates and the gradient of the function is almost sparse. We propose a method for gradient estimation that combines ideas from Spall's Simultaneous Perturbation Stochastic Approximation with compressive sensing. The aim is to obtain "good" estimator without too many function evaluations. Application to estimating gradient outer product matrix as well as standard optimization problems are illustrated via simulations.

研究动机与目标

• 解决传统梯度估计在高维问题中因函数评估计算成本高昂而导致的低效问题。
• 利用高维函数中梯度的稀疏性，以减少所需函数评估的次数。
• 开发一种结合SPSA高效扰动方案与压缩感知的混合方法，实现鲁棒的梯度恢复。
• 在函数评估成本高昂的约束下，展示该方法在优化与流形学习任务中更快的收敛速度与更高的精度。
• 为在 $ \boldsymbol{\nabla}f $-稀疏性与 $ \boldsymbol{\nabla}f $-稀疏感知采样假设下的梯度恢复提供理论依据。

提出的方法

• 使用SPSA中的同时扰动（SP）方法，在每次迭代中仅沿一个随机方向生成扰动，从而减少每次梯度估计所需的函数评估次数。
• 应用压缩感知原理，将梯度建模为在某一基下近似稀疏，从而实现仅通过 $ m \triangleq O(s \text{log}(n/s)) $ 次测量即可恢复。
• 将梯度估计建模为基追踪问题：$ \boldsymbol{\nabla}f \triangleq \text{argmin}_{\boldsymbol{z}} \frac{1}{2} \norm{A\boldsymbol{z} - \boldsymbol{y}}^2 + \tau \norm{\boldsymbol{z}}_1 $，其中 $ A $ 为随机高斯矩阵，$ \boldsymbol{y} $ 包含函数差值。
• 将 $ l_1 $-最小化与自适应精化相结合：利用中间的 $ l_1 $-解来引导随机梯度下降，从而提升收敛速度。
• 使用一个 $ m \times n $ 的随机高斯矩阵 $ A $，将梯度投影到低维测量空间。
• 采用同伦法实现自适应的 $ l_1 $-最小化，以在优化过程中迭代精化梯度估计。

实验结果

研究问题

• RQ1 压缩感知能否与SPSA有效结合，以在高维梯度估计中减少函数评估次数？
• RQ2 与经典SPSA和完整梯度计算相比，所提方法在收敛速度与精度方面表现如何？
• RQ3 在多大程度上，梯度稀疏性可使仅通过 $ O(s \text{log}(n/s)) $ 次函数评估实现高精度的梯度恢复？
• RQ4 在函数评估成本高昂的情况下，自适应 $ l_1 $-最小化方案能否提升随机梯度下降的收敛性能？
• RQ5 与现有方法（如SGL，即谱梯度学习）相比，该方法在高维优化任务中的时间效率与精度表现如何？

主要发现

• 当 $ n = 25000 $ 时，该方法将时间减少了90%，自适应方案仅耗时39秒，而完整梯度计算需9000秒。
• 当 $ n = 10000 $ 时，自适应方法耗时30.4秒，非自适应方法为213.6秒，而实际梯度计算需5873.8秒。
• 与文献[21]中的SGL方法相比，该方法在相同条件下（$ n = 10000, s = 50, m = 50 $）仅用83秒完成任务，而SGL需993秒。
• 仿真结果表明，尽管初始误差较高，自适应 $ l_1 $-最小化方案仍实现了比非自适应方法与经典SPSA更快的收敛速度。
• 理论分析证实，在高概率下，当 $ m \triangleq O(s \text{log}(n/s)) $ 时，若 $ \nabla f $ 近似稀疏，则可实现准确的梯度恢复。
• 该方法在流形学习中对梯度外积矩阵的估计表现出稳健性能，验证了其在标准优化之外的实用性。