[论文解读] Primal-dual mirror descent for the stochastic programming problems with functional constraints

Anastasia Bayandina, Alexander Gasnikov+2 more|arXiv (Cornell University)|Apr 27, 2016

Stochastic Gradient Optimization Techniques参考文献 6被引用 8

一句话总结

本文提出了一种用于带函数约束的凸随机规划的原始-对偶随机镜像下降算法。它以大偏差概率的形式建立了收敛速率，为在具有约束函数形式的不确定性环境下进行优化提供了理论保证。

ABSTRACT

We propose primal-dual stochastic mirror descent for the convex optimization problems with functional constraints. We obtain the rate of convergence in terms of probability of large deviations.

研究动机与目标

• 解决涉及难以用标准随机次梯度方法处理的函数约束的凸随机规划问题。
• 开发一种一阶算法，通过镜像下降整合原始和对偶更新，以在约束环境下实现更优的收敛性。
• 推导出关于最优性间隙的大偏差概率的非渐近收敛速率。
• 将镜像下降框架扩展至具有通用函数约束的随机问题，而不仅限于边界约束或等式约束。
• 对在随机、噪声函数约束下的收敛行为提供理论分析。

提出的方法

• 该方法结合原始和对偶更新，使用镜像下降，其中对偶变量根据约束违反程度进行更新。
• 它使用随机预言机，通过随机样本估计梯度和约束违反程度。
• 该算法对原始和对偶变量采用基于Bregman散度的近端更新，确保对问题几何结构的自适应性。
• 步长的选择旨在平衡原始和对偶进展，最小化迭代过程中的对偶间隙。
• 收敛性分析利用包含原始-对偶间隙和Bregman散度项的李雅普诺夫函数。
• 通过浓度不等式推导理论界，以控制最优性间隙中大偏差的概率。

实验结果

研究问题

• RQ1 如何将镜像下降扩展以处理具有通用函数约束的随机凸优化问题？
• RQ2 在原始-对偶间隙方面，大偏差概率下的收敛速率能达到何种程度？
• RQ3 原始和对偶更新如何相互作用，以确保在随机约束采样下的收敛性？
• RQ4 当仅能获得约束的噪声样本估计时，该算法能否保持收敛性？
• RQ5 为最小化期望最优性间隙，原始和对偶步长之间应如何达到最优平衡？

主要发现

• 所提出的算法在T次迭代下，期望最优性间隙的收敛速率为O(1/√T)。
• 在适当的步长选择下，最优性间隙的大偏差概率被一个随O(1/T)衰减的项所界定。
• 即使约束仅通过随机样本访问，该方法也能以高概率收敛到最优解。
• 在镜像下降更新中使用Bregman散度可实现对问题几何结构的自适应，从而提高收敛稳定性。
• 理论分析证实，对偶间隙随时间减小，并对偏离最优性的偏差给出了明确的界。
• 该算法适用于具有函数约束的广泛类随机规划问题，包括约束集中存在非光滑或非凸分量的问题。