[논문 리뷰] Golden ratio algorithms for solving equilibrium problems in Hilbert spaces

Nguyen|arXiv (Cornell University)|2018. 04. 05.

Optimization and Variational Analysis참고 문헌 35인용 수 9

한 줄 요약

이 논문은 힐버트 공간 내의 의사단조형 평형 문제를 해결하기 위한 새로운 골드닝 비율 기반 알고리즘을 제안한다. 기존의 외삽 방법과 달리 반복마다 단 한 개의 강凸 최적화 하위문제만 필요로 한다. 이 방법은 더이상의 연속성 조건을 요구하지 않는 더 완화된 조건 하에서도 약한 수렴과 강한 수렴을 달성하며, 기존 알고리즘에 비해 수치 실험에서 뛰어난 계산 효율성을 보인다.

ABSTRACT

In this paper, we design a new iterative algorithm for solving pseudomonotone equilibrium problems in real Hilbert spaces. The advantage of our algorithm is that it requires only one strongly convex programming problem at each iteration. Under suitable conditions we establish the strong and weak convergence of the proposed algorithm. The results presented in the paper extend and improve some recent results in the literature. The performances and comparisons with some existing methods are presented through numerical examples.

연구 동기 및 목표

• 기존의 외삽 유형 알고리즘들이 반복마다 두 개 이상의 하위문제를 해결해야 하는 높은 계산 비용 문제를 해결하기 위해.
• 하나의 강凸 최적화 문제만 반복마다 요구하는 힐버트 공간 내 의사단조형 평형 문제를 위한 새로운 반복 알고리즘을 개발하기 위해.
• 이전 방법들보다 더 약한 가정 하에서도 수렴 결과(약한 수렴과 강한 수렴)를 확립하기 위해, 특히 평형 함수에 대한 공동 약한 하향연속성 요구 조건을 완화하기 위해.
• 수치 실험을 통해 제안된 알고리즘이 기존 방법들에 비해 수렴 속도와 계산 시간 측면에서 뛰어나다는 것을 입증하기 위해.

제안 방법

• 알고리즘은 최근 제안된 변분부등식을 위한 골드닝 비율 방법에서 유도되었으며, 새로운 반복 체계를 통해 평형 문제에 적응시켰다.
• 각 반복에서, 다음 형태의 단일 강凸 최적화 하위문제를 풀게 된다: $ \alpha_k f(x^k, y) + \frac{1}{2}\|y - x^k\|^2 $ 를 $ y \in C $ 에 대해 최소화하라, 여기서 $ \alpha_k > 0 $.
• 이 방법은 $ \frac{1}{k+1} $ 의 속도로 감소하는 완화 파라미터 $ \lambda_k $ 를 사용하여, 선형 검색 없이도 수렴을 보장한다.
• 수렴은 평형 함수 $ f $ 에 대한 의사단조성과 조건 (A5)인 리프시츠 유형 조건 하에서 증명되었으며, 강한 의사단조성 조건이 만족될 경우 강한 수렴이 확립된다.
• 이 알고리즘은 다수의 투영 또는 하위문제 해법이 필요로 하는 것을 피함으로써 계산 복잡도를 감소시킨다.
• 이 방법은 유한 차원 및 무한 차원 설정, 특히 $ L^2([0,1]) $ 에 적용되어 안정성과 효율성을 검증하였다.

실험 결과

연구 질문

• RQ1 반복마다 두 개 이상의 하위문제를 요구하는 외삽 유형 방법에 비해 계산 비용을 크게 줄일 수 있는 평형 문제 해법을 설계할 수 있는가?
• RQ2 제안된 골드닝 비율 알고리즘이 평형 함수의 공동 약한 하향연속성 조건보다 더 약한 조건 하에서도 수렴하는가?
• RQ3 수렴 속도와 계산 시간 측면에서 기존의 알고리즘들인 일반 외삽 알고리즘(GEA)과 히우의 알고리즘에 비해 성능이 어떻게 비교되는가?
• RQ4 평형 함수가 강한 의사단조성이 있을 경우, 조건이 완화된 상태에서도 강한 수렴을 유지할 수 있는가?
• RQ5 특히 $ L^2([0,1]) $ 와 같은 무한 차원 힐버트 공간에서 알고리즘이 수치적으로 안정적이고 효율적인가?

주요 결과

• 제안된 알고리즘(GRA2)은 의사단조성과 리프시츠 유형 조건(A5) 하에서 의사단조형 평형 문제에 대해 약한 수렴을 달성하며, 공동 약한 하향연속성 조건을 요구하지 않아도 수렴이 보장된다.
• 평형 함수가 강한 의사단조성이면 강한 수렴이 확립되며, 수치 예제에서 강한 의사단조성 파라미터 $ \gamma = \frac{1}{2} $ 에 따라 수렴 속도가 달라진다.
• 예제 6.1에서 GRA2는 초기점 $ x^0 = \frac{1}{200}(\sin(-3t) + \cos(-10t)) $ 로 83회 반복과 0.0065초가 소요되어 히우 및 폴로프의 알고리즘을 시간과 반복 수 모두에서 능가했다.
• 예제 6.2에서 GRA2는 초기점 $ x^0 = \frac{1}{85}(t^3 + 1)e^{5t} $ 로 83회 반복과 0.0065초가 소요되어 세 알고리즘 중에서 가장 우수한 성능을 기록했다.
• 다양한 시험 케이스에서 알고리즘은 계산 시간과 반복 수 모두에서 일관된 우수성을 보이며, 유한 차원 및 무한 차원 설정 모두에서 효율성을 확인했다.
• 수치 결과는 평형 함수가 단조적이거나 강한 단조성이 아닐지라도 의사단조성과 리프시츠 유형 조건(A5)을 만족하면 알고리즘이 안정적이고 효과적이라는 것을 확인한다.