[论文解读] Information-constrained optimization: can adaptive processing of gradients help?

Jayadev Acharya, Clément L. Canonne+2 more|arXiv (Cornell University)|Apr 2, 2021

Sparse and Compressive Sensing Techniques被引用 5

一句话总结

本文研究在局部信息约束（如局部隐私、通信限制和计算限制）下，自适应梯度处理是否能改善一阶优化中的收敛性。研究建立了紧致的下界，表明对于凸函数和强凸函数，在大多数情形下，自适应处理在渐近意义上无法超越非自适应方法。然而，研究识别出一个特定问题（分块均值估计），在该问题中，自适应性提供了显著且可证明的优势，使误差率降低 $\sqrt{d}$ 倍。

ABSTRACT

We revisit first-order optimization under local information constraints such as local privacy, gradient quantization, and computational constraints limiting access to a few coordinates of the gradient. In this setting, the optimization algorithm is not allowed to directly access the complete output of the gradient oracle, but only gets limited information about it subject to the local information constraints. We study the role of adaptivity in processing the gradient output to obtain this limited information from it.We consider optimization for both convex and strongly convex functions and obtain tight or nearly tight lower bounds for the convergence rate, when adaptive gradient processing is allowed. Prior work was restricted to convex functions and allowed only nonadaptive processing of gradients. For both of these function classes and for the three information constraints mentioned above, our lower bound implies that adaptive processing of gradients cannot outperform nonadaptive processing in most regimes of interest. We complement these results by exhibiting a natural optimization problem under information constraints for which adaptive processing of gradient strictly outperforms nonadaptive processing.

研究动机与目标

• 确定在局部信息约束下，自适应梯度处理是否能改善一阶优化中的收敛速率。
• 分析自适应性在梯度处理中对三种关键约束（局部隐私、通信限制和计算限制）的作用。
• 为凸函数和强凸函数在自适应处理下的收敛速率建立紧致或近乎紧致的下界。
• 识别出自适应处理严格优于非自适应策略的条件。

提出的方法

• 作者通过归约为均值估计问题，并应用阿苏阿德方法（Assouad’s method），推导出在局部约束下优化问题的平均信息下界。
• 通过使用分块结构信号构造困难的函数实例，分析信息约束下的最优性差距。
• 在下界分析中，研究在噪声观测下估计隐藏的非零均值块的期望平方误差。
• 通过将信道选择建模为过去观测的函数，比较非自适应与自适应策略，利用次高斯集中不等式和霍夫丁型界。
• 推导出自适应策略下的估计误差上界，并与非自适应策略的下界进行比较。
• 关键构造包括将梯度空间划分为若干块，并使用噪声选择机制来模拟自适应信道选择。

实验结果

研究问题

• RQ1 在局部隐私约束下，自适应梯度处理能否改善一阶优化中的收敛性？
• RQ2 在通信受限的优化中，自适应梯度处理是否提供可证明的优势？
• RQ3 是否存在一种情形，使得自适应处理在计算受限的优化中优于非自适应处理？
• RQ4 在信息约束下允许自适应性时，收敛速率的根本极限是什么？
• RQ5 是否存在某些优化问题，使得自适应性相对于非自适应方法带来显著且可量化的改进？

主要发现

• 在局部隐私、通信和计算约束下，对于凸函数和强凸函数，自适应梯度处理无法在渐近收敛速率上超越非自适应方法。
• 研究在分块均值估计问题中建立了自适应与非自适应策略之间的严格分离：自适应方法的误差为 $\lesssim \frac{20d\ln d}{T}$，而非自适应方法的下界为 $\gtrsim \frac{d^{3/2}}{T}$（当 $T = \Omega(d)$ 时）。
• 当块大小 $s \approx \sqrt{d}$ 时，自适应性的增益达到最大，实现收敛速率 $\sqrt{d}$ 倍的提升。
• 通过阿苏阿德方法推导出的下界对三种信息约束和两类函数类均是紧致或近乎紧致的。
• 在分块均值估计问题中，自适应信道选择使算法能够以高概率聚焦于正确块，而非自适应策略则面临更高的误差下限。
• 结果表明，一般而言，自适应梯度处理的优势仅限于特定问题结构，而非普遍适用于所有优化任务。