[논문 리뷰] First-Order Algorithms for Nonlinear Generalized Nash Equilibrium Problems

Michael I. Jordan, Tianyi Lin외 1명|arXiv (Cornell University)|2022. 04. 07.

Optimization and Variational Analysis인용 수 12

한 줄 요약

이 논문은 비선형 일반화 내쉬 균형 문제(NGNEPs)를 해결하기 위해 가속 거울-근사 제곱 페널티(AMPQP)와 가속 거울-근사 증강 라그랑주법(AMPAL)이라는 두 가지 일阶 알고리즘을 제안한다. 제곱 페널티 및 증강 라그랑주 프레임워크 내부에서 가속 거울-근사법을 내부 솔버로 통합함으로써, 저자들은 단조성 및 강한 단조성 조건을 만족하는 NGNEPs에 대해 각각 $\tilde{O}(\epsilon^{-1})$ 및 $\tilde{O}(\epsilon^{-1/2})$의 비점근적 반복 복잡도 한계를 확립하였으며, 이는 기울기 평가 수준에서의 결과이다. 이는 이 문제 클래스에 대해 명시적인 복잡도 한계를 제공하는 최초의 전역 수렴 속도 보장이다.

ABSTRACT

We consider the problem of computing an equilibrium in a class of extit{nonlinear generalized Nash equilibrium problems (NGNEPs)} in which the strategy sets for each player are defined by equality and inequality constraints that may depend on the choices of rival players. While the asymptotic global convergence and local convergence rates of algorithms to solve this problem have been extensively investigated, the analysis of nonasymptotic iteration complexity is still in its infancy. This paper presents two first-order algorithms -- based on the quadratic penalty method (QPM) and augmented Lagrangian method (ALM), respectively -- with an accelerated mirror-prox algorithm as the solver in each inner loop. We establish a global convergence guarantee for solving monotone and strongly monotone NGNEPs and provide nonasymptotic complexity bounds expressed in terms of the number of gradient evaluations. Experimental results demonstrate the efficiency of our algorithms in practice.

연구 동기 및 목표

• 비선형 일반화 내쉬 균형 문제(NGNEPs)에서 일阶 알고리즘의 점근적이지 않은 반복 복잡도 분석이 부족한 문제를 다루기 위해.
• 단조성 및 강한 단조성 조건을 만족하는 NGNEPs에 대해 효율적인 일阶 알고리즘을 설계하고 전역 수렴 속도 보장을 확보하기 위해.
• NGNEP 해법 알고리즘의 기울기 평가 수준에서 명시적인 비점근적 복잡도 한계를 확립하기 위해.
• GNEPs의 기계학습 및 공학적 응용에서 이론적 수렴 속도와 실용적 확장성 사이의 격차를 메우기 위해.

제안 방법

• AMPQP 알고리즘은 제곱 페널티 방법과 내부 반복에 대해 가속 거울-근사(AMP) 솔버를 결합한다.
• AMPAL 알고리즘은 제약 조건과 이중 변수를 처리하기 위해 증강 라그랑주 방법을 사용하고, 내부 솔버로 AMP를 활용한다.
• 이 알고리즘들은 전략 집합이 등등식 및 부등등식 제약 조건을 통해 상대의 행동에 의존하는 NGNEPs를 대상으로 한다.
• 수렴 분석은 변분부등식 및 비선형 최적화 분야에서 최근의 일阶 방법 진전을 활용한다.
• 내부 AMP 솔버는 단조성 및 강한 단조성 조건에서 각각 $O(\epsilon^{-1})$ 및 $O(\epsilon^{-1/2})$의 기울기 복잡도로 빠른 하위문제 해결을 보장한다.
• 이론적 한계는 리아푸노프 함수와 오차 전파 분석을 사용하여 유도되었으며, 비정확한 이중 업데이트 및 페널티 파라미터 적응을 고려한다.

실험 결과

연구 질문

• RQ1 NGNEPs에 대한 일阶 알고리즘이 명시적인 반복 복잡도 한계를 갖는 점근적이지 않은 전역 수렴 속도 보장을 달성할 수 있는가?
• RQ2 기울기 평가 수준에서 단조성 및 강한 단조성 조건을 만족하는 NGNEPs를 해결하기 위한 일阶 방법의 최적 반복 복잡도는 무엇인가?
• RQ3 가속 거울-근사법을 제곱 페널티 또는 증강 라그랑주법과 조합함으로써 NGNEPs의 수렴 성능이 어떻게 향상되는가?
• RQ4 증강 라그랑주 프레임워크 내에서 비정확한 이중 업데이트가 여전히 전역 수렴과 복잡도 보장을 보장할 수 있는가?
• RQ5 페널티 및 장벽 파라미터가 NGNEP 해법의 수렴 속도와 기울기 복잡도에 미치는 영향은 무엇인가?

주요 결과

• AMPQP 방법은 단조성 조건을 만족하는 NGNEPs에 대해 기울기 평가 수준에서 비점근적 반복 복잡도 $\tilde{O}(\epsilon^{-1})$을 달성하고, 강한 단조성 조건을 만족하는 경우 $\tilde{O}(\epsilon^{-1/2})$를 달성한다.
• AMPAL 방법은 동일한 단조성 조건 하에서 AMPQP와 동일한 복잡도 한계를 확보한다.
• 두 알고리즘의 총 기울기 평가 수는 단조성 경우에 $O(\epsilon^{-1}\log(1/\epsilon))$ 수준, 강한 단조성 경우에 $O(\epsilon^{-1/2}\log(1/\epsilon))$ 수준로 스케일링된다.
• 수렴 보장은 다른 플레이어의 전략에 의존하는 결합 제약 조건을 포함한 일반적인 문제 구조에 대해 성립한다.
• 분석은 비정확한 이중 업데이트 및 적응형 페널티 파라미터를 고려하여 실용적 구현에서의 강건성을 확보한다.
• 실험 결과는 두 알고리즘이 실질적으로 효율적임을 확인하며, 이론적 복잡도 한계를 검증한다.