[论文解读] Adaptive Regularization for Nonconvex Optimization Using Inexact Function Values and Randomly Perturbed Derivatives

Stefania Bellavia, Gianmarco Gurioli+2 more|arXiv (Cornell University)|May 10, 2020

Sparse and Compressive Sensing Techniques参考文献 28被引用 4

一句话总结

该论文提出了一种用于非凸优化的自适应正则化算法，能够处理不精确的函数值和随机扰动的梯度，实现了期望意义下的最优评估复杂度界。证明了该算法在 $q \leq 2$ 时以 $O(\epsilon^{-(p+1)/(p-q+1)})$ 次评估计算出近似 $q$ 阶临界点，在 $q > 2$ 时以 $O(\epsilon^{-q(p+1)/p})$ 次评估完成，且复杂度界在精度容差的阶数上是紧致的。

ABSTRACT

A regularization algorithm allowing random noise in derivatives and inexact function values is proposed for computing approximate local critical points of any order for smooth unconstrained optimization problems. For an objective function with Lipschitz continuous $p$-th derivative and given an arbitrary optimality order $q \leq p$, it is shown that this algorithm will, in expectation, compute such a point in at most $O\left(\left(\min_{j\in\{1,\ldots,q\}}ε_j ight)^{-\frac{p+1}{p-q+1}} ight)$ inexact evaluations of $f$ and its derivatives whenever $q\in\{1,2\}$, where $ε_j$ is the tolerance for $j$th order accuracy. This bound becomes at most $O\left(\left(\min_{j\in\{1,\ldots,q\}}ε_j ight)^{-\frac{q(p+1)}{p}} ight)$ inexact evaluations if $q>2$ and all derivatives are Lipschitz continuous. Moreover these bounds are sharp in the order of the accuracy tolerances. An extension to convexly constrained problems is also outlined.

研究动机与目标

• 开发一种正则化算法，用于在函数值和梯度评估不精确的条件下，计算光滑非凸优化问题任意阶次的近似局部临界点。
• 分析当函数值和梯度受随机噪声和不精确性影响时，此类算法的评估复杂度。
• 在对噪声和梯度精度施加弱假设的前提下，建立与精确评估下已知复杂度界相匹配的期望意义下的紧致最坏情况复杂度界。
• 将该框架扩展至凸约束优化问题，同时保持复杂度保证。

提出的方法

• 该算法采用类似信赖域的自适应正则化框架，根据不精确的函数值和梯度信息动态调整模型精度。
• 基于随机化的梯度近似定义了一种随机停止准则，确保在有界噪声下保持可行性与收敛性。
• 提出了一种新的模型改进函数定义 $\phi_{f,j}^{\delta_j}(x)$，以考虑不精确性并控制模型最坏情况下的下降量。
• 采用线搜索或信赖域步长选择策略，即使在梯度存在噪声时也能保持可行性并确保模型的充分下降。
• 理论分析基于改进的不精确自适应正则化（IAR）框架，假设 $p$ 阶导数满足利普希茨连续性，且函数值和梯度中的噪声有界。
• 对于凸约束问题，算法在每次迭代中强制保持可行性，并修改停止准则以反映迭代点的约束性质。

实验结果

研究问题

• RQ1 当函数值和梯度存在不精确性并受随机噪声影响时，自适应正则化算法的评估复杂度是多少？
• RQ2 尽管存在噪声梯度和函数值，该算法是否仍能在期望意义下实现与精确算法相同的复杂度界？
• RQ3 复杂度如何依赖于所寻求临界点的阶数 $q$ 和目标函数的光滑度 $p$？
• RQ4 理论复杂度界能否扩展至具有不精确数据的凸约束优化问题？
• RQ5 推导出的复杂度界在精度容差 $\epsilon$ 的阶数上是否是紧致的？

主要发现

• 当 $q \in \{1,2\}$ 时，该算法在期望意义下最多以 $O(\epsilon^{-(p+1)/(p-q+1)})$ 次不精确评估计算出 $(\epsilon,\delta)$-近似 $q$ 阶极小化点，与精确评估下的已知复杂度一致。
• 当 $q > 2$ 时，期望评估次数被限制在 $O(\epsilon^{-q(p+1)/p})$，且该界在 $\epsilon$ 的阶数上也是紧致的。
• 复杂度界是最优的，即在随机扰动下仍与精确梯度和函数值评估下的最佳已知界相匹配。
• 分析表明，只要梯度近似准确的概率足够高，该算法的复杂度阶数与精确情况保持一致。
• 扩展至凸约束问题后，复杂度界得以保持，仅需对停止准则和可行性强制机制进行修改。
• 在弱假设下结果成立：$p$ 阶导数满足利普希茨连续性，且函数值和梯度评估中的噪声有界且相互独立。