[論文レビュー] First-Order Algorithms for Nonlinear Generalized Nash Equilibrium Problems

Michael I. Jordan, Tianyi Lin+1 more|arXiv (Cornell University)|Apr 7, 2022

Optimization and Variational Analysis被引用数 12

ひとこと要約

本稿では、非線形一般化ナッシュ均衡問題（NGNEPs）を解くために、2つの一次順序アルゴリズム—加速ミラー・プロックス二次ペナルティ（AMPQP）および加速ミラー・プロックス増大ラグランジュ（AMPAL）—を提案する。二次ペナルティおよび増大ラグランジュフレームワーク内に加速ミラー・プロックスを内側のソルバーとして統合することにより、単調かつ強く単調なNGNEPsに関して、勾配評価の観点から非漸近的反復複雑性境界 $ ilde{O}( au^{-1})$ および $ ilde{O}( au^{-1/2})$ を確立した。本研究は、このクラスの問題に対して、明示的な複雑性境界を伴う最初のグローバル収束レート保証を提供する。

ABSTRACT

We consider the problem of computing an equilibrium in a class of extit{nonlinear generalized Nash equilibrium problems (NGNEPs)} in which the strategy sets for each player are defined by equality and inequality constraints that may depend on the choices of rival players. While the asymptotic global convergence and local convergence rates of algorithms to solve this problem have been extensively investigated, the analysis of nonasymptotic iteration complexity is still in its infancy. This paper presents two first-order algorithms -- based on the quadratic penalty method (QPM) and augmented Lagrangian method (ALM), respectively -- with an accelerated mirror-prox algorithm as the solver in each inner loop. We establish a global convergence guarantee for solving monotone and strongly monotone NGNEPs and provide nonasymptotic complexity bounds expressed in terms of the number of gradient evaluations. Experimental results demonstrate the efficiency of our algorithms in practice.

研究の動機と目的

• 非線形一般化ナッシュ均衡問題（NGNEPs）における一次順序アルゴリズムの非漸近的反復複雑性解析の不足に対処すること。
• 単調および強く単調なNGNEPsに対して、グローバル収束速度保証を伴う効率的な一次順序アルゴリズムを設計すること。
• NGNEPソリューションアルゴリズムの勾配評価の観点から、明示的な非漸近的複雑性境界を確立すること。
• GNEPsの機械学習および工学的応用における理論的収束速度と実用的スケーラビリティのギャップを埋めること。

提案手法

• AMPQPアルゴリズムは、二次ペナルティ法と内側反復用の加速ミラー・プロックス（AMP）ソルバーを組み合わせる。
• AMPALアルゴリズムは、増大ラグランジュ法とAMPを内側のソルバーとして用い、制約および双対変数を処理する。
• 戦略集合が等式および不等式制約を通じて他プレイヤーの行動に依存するNGNEPsを想定する。
• 収束解析は、変動不等式および非線形最適化における一次順序手法の最近の進展を活用する。
• 内側のAMPソルバーにより、単調および強く単調な設定下で、$O(\epsilon^{-1})$ および $O(\epsilon^{-1/2})$ の勾配複雑性を達成する高速な部分問題解消が保証される。
• リャプノフ関数および誤差伝播解析を用いて理論的境界を導出する。これには、不正確な双対更新およびペナルティパラメータの適応的調整を考慮する。

実験結果

リサーチクエスチョン

• RQ1 NGNEPsにおける一次順序アルゴリズムは、明示的な反復複雑性境界を伴う非漸近的グローバル収束速度保証を達成できるか？
• RQ2 勾配評価の観点から、単調および強く単調なNGNEPsを解く一次順序手法の最適な反復複雑性は何か？
• RQ3 加速ミラー・プロックスを二次ペナルティまたは増大ラグランジュと組み合わせることで、NGNEPsにおける収束性はどのように向上するか？
• RQ4 増大ラグランジュフレームワークにおける不正確な双対更新でも、グローバル収束と複雑性保証は得られるか？
• RQ5 ペナルティおよびバリアパラメータの影響は、NGNEPソルバーの収束速度および勾配複雑性にどのような影響を及えるか？

主な発見

• AMPQP法は、単調NGNEPsにおいて勾配評価の観点から非漸近的反復複雑性 $\/tilde{O}(\epsilon^{-1})$ を達成し、強く単調なNGNEPsでは $\/tilde{O}(\epsilon^{-1/2})$ を達成する。
• AMPAL法は、同じ単調性仮定下でAMPQPと同一の複雑性境界を達成する。
• 両アルゴリズムの勾配評価総数は、単調な場合に $O(\epsilon^{-1}\log(1/\epsilon))$、強く単調な場合に $O(\epsilon^{-1/2}\log(1/\epsilon))$ のスケーリングを示す。
• 収束保証は、他のプレイヤーの戦略に依存する結合制約を含む一般な問題構造仮定のもとで成立する。
• 不正確な双対更新および適応的ペナルティパラメータを考慮する分析により、実装におけるロバストネスが保証される。
• 実験結果は、両アルゴリズムの実用的効率性を確認し、理論的複雑性境界の妥当性を裏付けている。