[논문 리뷰] A splitting algorithm for dual monotone inclusions involving cocoercive operators

Bằng Công Vũ|arXiv (Cornell University)|2011. 10. 08.

Optimization and Variational Analysis참고 문헌 21인용 수 7

한 줄 요약

이 논문은 코코어서시브 연산자를 포함하는 모나토닉 포함 문제를 해결하기 위한 새로운 원시-이중 분할 알고리즘을 제안한다. 이 알고리즘은 전진-후진 단계와 이중성의 원리를 활용하여 코코어서시브성 가정 하에 약한 수렴과 강한 수렴을 달성한다. 주요 기여는 최근에 제안된 알고리즘들을 복원하고 확장하는 통합 프레임워크를 제공하는 것으로, 관련 연산자에 대해 최소한의 가정으로 수렴 보장을 제공한다.

ABSTRACT

We consider the problem of solving dual monotone inclusions involving sums of composite parallel-sum type operators. A feature of this work is to exploit explicitly the cocoercivity of some of the operators appearing in the model. Several splitting algorithms recently proposed in the literature are recovered as special cases.

연구 동기 및 목표

• 복합 평행합 유형의 연산자 합을 포함하는 이중 모나토닉 포함 문제를 해결하기 위한 분할 알고리즘을 개발한다.
• 일부 연산자의 코코어서시브성을 명시적으로 활용하여 수렴성과 알고리즘 구조를 향상시킨다.
• 최근에 제안된 여러 알고리즘들을 하나의 프레임워크로 통합하고 일반화한다.
• 최소한이면서 검증 가능한 조건 하에 약한 수렴과 강한 수렴 결과를 확립한다.
• 펜첼-로카펠라르 및 모스코 이중성에 의한 볼록 최소화 문제에의 적용을 제공한다.

제안 방법

• 알고리즘은 이완 파rameter $\lambda_n$ 를 사용하여 원시 변수와 이중 변수를 반복적으로 갱신하는 전진-후진 분할 접근을 사용한다.
• 복합 모나토닉 포함 문제의 이중 공간 내 모델링을 위해 평행합 연산자 $B_i \square D_i$ 를 통합한다.
• 수렴을 보장하기 위해 최대 모나토닉 연산자의 리졸베ント과 $C$ 의 코코어서시브성에 의존한다.
• 원시 변수 $x_n$ 과 이중 변수 $v_{i,n}$ 가 프락시멀 및 기울기 단계를 통해 갱신되는 원시-이중 공식화에서 유도된 알고리즘이다.
• 부정확하거나 편향된 계산을 모델링하기 위해 오차 항 $a_{1,n}, a_{2,n}, c_{i,n}, b_{i,n}$ 을 포함하며, 오차 수열이 합성 가능할 경우 수렴성이 유지된다.
• 프레임워크는 $C = \nabla h$ 가 바일린-하드라 정리에 의해 코코어서시브임을 고려하여 볼록 최소화 문제에 대한 응용을 통해 검증된다.

실험 결과

연구 질문

• RQ1 코코어서시브 연산자를 포함하는 이중 모나토닉 포함 문제를 해결하기 위한 분할 알고리즘을 설계할 수 있는가? 이 알고리즘은 기존 방법들을 통합할 수 있는가?
• RQ2 코코어서시브성 가정 하에 제안된 알고리즘의 약한 수렴과 강한 수렴을 보장하는 조건은 무엇인가?
• RQ3 코코어서시브성의 포함이 원시-이중 분할 체계의 구조와 수렴성에 어떻게 기여하는가?
• RQ4 어떤 설정에서 알고리즘이 [10], [18], 또는 [22]의 기존 방법으로 축소되는가?
• RQ5 반복적 방법의 수렴을 보장하는 문제 데이터에 대한 최소 조건은 무엇인가?

주요 결과

• 표준적인 모나토닉성과 코코어서시브성 가정 하에, 제안된 알고리즘은 (1.2)의 원시 포함 문제와 (1.3)의 이중 포함 문제의 해로 약한 수렴을 보인다.
• 목적 함수 $h$ 가 해에서 균일하게 볼록할 경우, $\nabla h$ 는 균일하게 단조적이므로 강한 수렴이 달성된다.
• 일부 조건에서 $\ell_i$ 가 $\{0\}$ 의 지표 함수이고 $z=0$ 이면, 알고리즘은 [18, 식 (36)]의 방법을 특수한 경우로 복원하고 확장한다.
• 유한 차원 공간에서 $\lambda_n \equiv 1$ 이면, 알고리즘은 [10, 알고리즘 1]의 방법으로 축소되며, 동일한 조건 하에 수렴성이 유지된다.
• 오차 수열이 합성 가능할 경우, 부정확하거나 편향된 평가가 있어도 알고리즘은 여전히 수렴성을 유지한다.
• 프레임워크는 펜첼-로카펠라르 이중성과 모스코 이중성, 그리고 볼록 최적화의 기타 고전적 설정을 통합적으로 다룰 수 있다.