[论文解读] First-Order Algorithms for Nonlinear Generalized Nash Equilibrium Problems

Michael I. Jordan, Tianyi Lin+1 more|arXiv (Cornell University)|Apr 7, 2022

Optimization and Variational Analysis被引用 12

一句话总结

本文提出两种一阶算法——加速镜像逼近二次惩罚法（AMPQP）和加速镜像逼近增广拉格朗日法（AMPAL），用于求解非线性广义纳什均衡问题（NGNEPs）。通过将加速镜像逼近（AMP）作为内层求解器嵌入二次惩罚和增广拉格朗日框架中，作者建立了单调和强单调NGNEPs的非渐近迭代复杂度界，分别为$\tilde{O}(\epsilon^{-1})$和$\tilde{O}(\epsilon^{-1/2})$（以梯度计算次数衡量），首次为该类问题提供了具有明确复杂度边界的全局收敛速率保证。

ABSTRACT

We consider the problem of computing an equilibrium in a class of extit{nonlinear generalized Nash equilibrium problems (NGNEPs)} in which the strategy sets for each player are defined by equality and inequality constraints that may depend on the choices of rival players. While the asymptotic global convergence and local convergence rates of algorithms to solve this problem have been extensively investigated, the analysis of nonasymptotic iteration complexity is still in its infancy. This paper presents two first-order algorithms -- based on the quadratic penalty method (QPM) and augmented Lagrangian method (ALM), respectively -- with an accelerated mirror-prox algorithm as the solver in each inner loop. We establish a global convergence guarantee for solving monotone and strongly monotone NGNEPs and provide nonasymptotic complexity bounds expressed in terms of the number of gradient evaluations. Experimental results demonstrate the efficiency of our algorithms in practice.

研究动机与目标

• 解决非线性广义纳什均衡问题（NGNEPs）中一阶算法缺乏非渐近迭代复杂度分析的问题。
• 为单调和强单调NGNEPs设计具有全局收敛速率保证的高效一阶算法。
• 建立NGNEP求解算法在梯度计算次数方面的显式非渐近复杂度边界。
• 弥合广义纳什均衡问题在机器学习和工程应用中理论收敛速率与实际可扩展性之间的差距。

提出的方法

• AMPQP算法将二次惩罚法与作为内层迭代的加速镜像逼近（AMP）求解器相结合。
• AMPAL算法采用增广拉格朗日法，并以AMP作为内层求解器以处理约束和对偶变量。
• 这些算法针对策略集通过等式和不等式约束依赖于对手策略的NGNEPs而设计。
• 收敛性分析利用了变分不等式和非线性优化中一阶方法的最新进展。
• 内层AMP求解器在单调和强单调设置下分别实现$O(\epsilon^{-1})$和$O(\epsilon^{-1/2})$的梯度复杂度，确保子问题快速求解。
• 理论边界通过李雅普诺夫函数和误差传播分析推导得出，同时考虑了对偶更新的不精确性及惩罚参数的自适应调整。

实验结果

研究问题

• RQ1 一阶算法能否在NGNEPs中实现具有显式迭代复杂度边界的非渐近全局收敛速率保证？
• RQ2 在梯度计算次数的衡量下，求解单调和强单调NGNEPs的一阶方法的最优迭代复杂度是什么？
• RQ3 将加速镜像逼近与二次惩罚或增广拉格朗日法结合，如何提升NGNEPs的收敛性能？
• RQ4 在增广拉格朗日框架中，不精确的对偶更新是否仍能保证全局收敛并具有复杂度边界？
• RQ5 惩罚参数和障碍参数对NGNEP求解器的收敛速率和梯度复杂度有何影响？

主要发现

• AMPQP方法在单调NGNEPs中实现非渐近迭代复杂度$\tilde{O}(\epsilon^{-1})$，在强单调NGNEPs中实现$\tilde{O}(\epsilon^{-1/2})$（以梯度计算次数衡量）。
• AMPAL方法在相同单调性假设下，达到与AMPQP相同的复杂度边界。
• 两种算法的总梯度计算次数在单调情况下为$O(\epsilon^{-1}\log(1/\epsilon))$，在强单调情况下为$O(\epsilon^{-1/2}\log(1/\epsilon))$。
• 收敛保证在一般问题结构假设下成立，包括依赖于其他参与者策略的耦合约束。
• 分析考虑了对偶更新的不精确性及惩罚参数的自适应调整，确保了实际实现中的鲁棒性。
• 实验结果证实了两种算法在实际应用中的高效性，验证了理论复杂度边界的正确性。