[논문 리뷰] Perturbation techniques for convergence analysis of proximal gradient method and other first-order algorithms via variational analysis

Xiangfeng Wang, Jane J. Ye외 3명|arXiv (Cornell University)|2018. 10. 23.

Sparse and Compressive Sensing Techniques참고 문헌 42인용 수 7

한 줄 요약

이 논문은 변분 분석 기반의 새로운 변동 기법을 제안하여, 제일 순서 방법인 프록시멀 그라디언트(PG) 방법, ADMM, PDHG에 대해 선형 수렴를 확립한다. 연속적인 반복값 간의 차이를 변동 요소로 모델링함으로써, 유도된 다중값 함수의 안정성과 정류점 값의 국소적 적절한 분리 조건이 선형 수렴을 암시함을 보이며, 비볼록 및 비미분 가능 설정에서 수렴을 검증 가능한 조건을 제공한다.

ABSTRACT

We develop new perturbation techniques for conducting convergence analysis of various first-order algorithms for a class of nonsmooth optimization problems. We consider the iteration scheme of an algorithm to construct a perturbed stationary point set-valued map, and define the perturbing parameter by the difference of two consecutive iterates. Then, we show that the calmness condition of the induced set-valued map, together with a local version of the proper separation of stationary value condition, is a sufficient condition to ensure the linear convergence of the algorithm. The equivalence of the calmness condition to the one for the canonically perturbed stationary point set-valued map is proved, and this equivalence allows us to derive some sufficient conditions for calmness by using some recent developments in variational analysis. These sufficient conditions are different from existing results (especially, those error-bound-based ones) in that they can be easily verified for many concrete application models. Our analysis is focused on the fundamental proximal gradient (PG) method, and it enables us to show that any accumulation of the sequence generated by the PG method must be a stationary point in terms of the proximal subdifferential, instead of the limiting subdifferential. This result finds the surprising fact that the solution quality found by the PG method is in general superior. Our analysis also leads to some improvement for the linear convergence results of the PG method in the convex case. The new perturbation technique can be conveniently used to derive linear rate convergence of a number of other first-order methods including the well-known alternating direction method of multipliers and primal-dual hybrid gradient method, under mild assumptions.

연구 동기 및 목표

• 비볼록 및 비미분 가능 최적화에서 제일 순서 알고리즘의 통합 수렴 분석 프레임워크를 개발하기 위해.
• PG, ADMM, PDHG와 같은 알고리즘의 비볼록성 하에서 선형 수렴 속도를 검증하는 데 있어 기존의 격차를 메우기 위해.
• 기존의 오차 경계 기반 조건을 더 검증 가능한 안정성 조건으로 대체하기 위해 변동 기법을 활용하기 위해.
• PG 반복값이 프록시멀 서드리프레서 정류점으로 선형 수렴함을 보이며, 이는 한계 서드리프레서 점보다 더 우월한 해 품질을 의미함을 보여주기 위해.
• ADMM 및 PDHG로의 분석 확장을 통해, 미묘하고 검증 가능한 가정 하에서 선형 수렴를 확립하기 위해.

제안 방법

• 연속적인 반복값 간의 차이를 변동 매개변수로 사용하여, 변동된 정류점 집합 다중값 함수를 정의한다.
• 변동된 함수의 안정성과 정류점 값의 국소적 적절한 분리 조건이 결합될 경우 선형 수렴를 보장함을 증명함으로써 선형 수렴를 확립한다.
• 제안된 변동 기법이 KKT 함수의 표준 변동과 동치임을 증명함으로써 최신 변분 분석 도구의 활용을 가능하게 한다.
• 프록시멀 그라디언트 방법에 이 기법을 적용하여, 집적점이 프록시멀 서드리프레서 정류점임을 보인다.
• 반복 구조에 맞는 문제 특화 변동을 도입함으로써, ADMM 및 PDHG로 프레임워크를 확장한다.
• 유도된 변동 KKT 함수의 안정성 조건을 사용하여, 오차 경계 가정에 의존하지 않고 선형 수렴 속도를 유도한다.

실험 결과

연구 질문

• RQ1 비볼록 및 비미분 가능 설정에서 제일 순서 방법의 선형 수렴를 분석하기 위해 새로운 변동 기법을 개발할 수 있는가?
• RQ2 변동된 정류점 집합 다중값 함수의 안정성 조건이 PG 방법의 선형 수렴와 어떻게 관련되는가?
• RQ3 제안된 방법이 기존의 오차 경계 기반 접근보다 수렴 조건을 더 쉽게 검증할 수 있는가?
• RQ4 PG 방법이 한계 서드리프레서가 아닌 프록시멀 서드리프레서 기반으로 분석될 경우 더 우수한 해 품질로 수렴하는가?
• RQ5 동일한 변동 프레임워크를 ADMM 및 PDHG로 확장하여, 미묘한 가정 하에서 선형 수렴를 확립할 수 있는가?

주요 결과

• 제안된 변동 기법은 유도된 다중값 함수의 안정성 조건과 정류점 값의 국소적 적절한 분리 조건 하에서 PG 방법의 선형 수렴를 확립한다.
• 이 방법은 PG 반복값의 임계점이 프록시멀 서드리프레서 정류점임을 보이며, 이는 한계 서드리프레서 정류점보다 더 강력하고 일반적으로 열등한 해 개념보다 열등하지 않다.
• 안정성 조건은 KKT 함수의 표준 변동과 동치이며, 이는 최신 변분 분석 도구를 활용하여 이를 검증할 수 있음을 의미한다.
• 안정성 조건을 검증 가능한 충분조건를 제공하며, 이는 기존의 오차 경계 기반 조건보다 더 쉽게 확인할 수 있다.
• 이 기법은 ADMM 및 PDHG로 성공적으로 확장되어 문제 특화 변동을 통해 미묘한 가정 하에서 선형 수렴를 보장한다.
• 이 분석은 기존의 볼록 케이스에서 PG 방법의 선형 수렴 결과를 더 날카롭고 일반적인 조건으로 향상시킨다.