[论文解读] Random Multi-Constraint Projection: Stochastic Gradient Methods for Convex Optimization with Many Constraints

Mengdi Wang, Yichen Chen+2 more|arXiv (Cornell University)|Nov 12, 2015

Stochastic Gradient Optimization Techniques参考文献 23被引用 21

一句话总结

该论文提出了一种新颖的随机梯度方法，用于具有大量约束的凸优化问题，通过结合随机次梯度步长与随机多约束投影实现。该方法引入了三种可行性更新策略——平均化、最远投影和多面体集投影，并证明了几乎必然收敛性，且收敛速率得到提升，其中多面体集投影方案在已知算法中实现了最佳的迭代复杂度与样本复杂度。

ABSTRACT

Consider convex optimization problems subject to a large number of constraints. We focus on stochastic problems in which the objective takes the form of expected values and the feasible set is the intersection of a large number of convex sets. We propose a class of algorithms that perform both stochastic gradient descent and random feasibility updates simultaneously. At every iteration, the algorithms sample a number of projection points onto a randomly selected small subsets of all constraints. Three feasibility update schemes are considered: averaging over random projected points, projecting onto the most distant sample, projecting onto a special polyhedral set constructed based on sample points. We prove the almost sure convergence of these algorithms, and analyze the iterates' feasibility error and optimality error, respectively. We provide new convergence rate benchmarks for stochastic first-order optimization with many constraints. The rate analysis and numerical experiments reveal that the algorithm using the polyhedral-set projection scheme is the most efficient one within known algorithms.

研究动机与目标

• 为解决在由大量凸约束定义的复杂可行集上进行投影时，随机梯度方法计算效率低下的问题。
• 设计一种可扩展的算法，通过在每次迭代中随机采样约束，避免对完整交集进行昂贵的精确投影。
• 分析在不同可行性更新策略下，最优性误差与可行性误差的收敛速率。
• 比较多约束采样与单约束采样在迭代复杂度与样本复杂度方面的效率差异。
• 识别在平均化、最远投影与多面体集投影三种可行性更新策略中，哪一种具有最佳的收敛速率与样本复杂度。

提出的方法

• 在每次迭代中，算法使用目标函数次梯度的一个样本执行随机次梯度步长。
• 同时，它采样一小部分约束，并使用三种策略之一（平均化、最远或多面体集投影）将迭代点投影到所采样约束的交集上。
• 多面体集投影通过采样点构造一个特殊的多面体集，并将其投影到该集合上，从而实现更优的误差控制。
• 算法采用递减步长 $ \alpha_k = 1/(k+10) $，确保几乎必然收敛。
• 可行性误差以到真实可行集 $ \mathcal{X} $ 的平方距离衡量，最优性误差则通过目标函数的次优性进行追踪。
• 理论分析表明，在多面体集投影策略下，可行性误差的收敛速率为 $ \mathcal{O}(1/k^2) $，且样本复杂度与此匹配。

实验结果

研究问题

• RQ1 当可行集为多个约束的交集时，随机梯度方法是否仍能保持收敛性与效率？
• RQ2 与单约束采样相比，多约束采样在收敛速度与样本效率方面表现如何？
• RQ3 在平均化、最远投影与多面体集投影三种可行性更新策略中，哪一种能实现最佳收敛速率与样本复杂度？
• RQ4 所提算法的可行性误差与最优性误差的理论收敛速率为何？
• RQ5 每次迭代使用多个采样约束是否能显著优于仅使用单个约束？

主要发现

• 多面体集投影策略实现了最佳收敛速率，可行性误差以 $ \mathcal{O}(1/k^2) $ 速率下降，优于其他策略。
• 数值实验表明，算法3（多面体集投影策略）收敛更快且约束违反程度更低，优于算法1、算法2与基线方法。
• 可行性误差的倒数与迭代次数及总样本量呈线性关系，验证了理论速率，并支持样本效率的比较。
• 对于算法3，每次迭代采样约束数 $ M $ 增加时，样本效率的提升超过线性，表明其具有强大的可扩展性。
• 算法1（平均化策略）的性能可能劣于基线算法，凸显了策略设计的重要性。
• 所提算法在保持非可改进的迭代复杂度（至多常数因子）的同时，通过多约束采样显著提升了样本复杂度。