[논문 리뷰] A new splitting method for solving composite monotone inclusions involving parallel-sum operators

Quoc Tran-Dinh, Bằng Công Vũ|arXiv (Cornell University)|2015. 05. 29.

Optimization and Variational Analysis참고 문헌 24인용 수 4

한 줄 요약

이 논문은 리프시츠 연산자와 평행합 유형의 단조 연산자를 포함하는 복합 단조 포함 문제를 해결하기 위한 새로운 원시-이중 분할 방법을 제안한다. 쿠른-타커 집합을 활용하고 각 단조 연산자의 해석을 별도로 계산함으로써, 이 방법은 해에 약한 수렴을 보장하며, 기존 방법에 비해 더 유연하고 모odu lar한 접근을 제공한다. 특히 각각의 프록시멀 연산자를 독립적으로 다루는 복합 볼록 최소화 문제에 있어 유리하다.

ABSTRACT

We propose a new primal-dual splitting method for solving composite inclusions involving Lipschitzian, and parallel-sum-type monotone operators. Our approach extends the framework in \cite{Siopt4} to a more general class of monotone inclusions in a nontrivial fashion. The main idea is to represent the solution set of both the primal and dual problems using their associated Kuhn-Tucker set, and then develop a projected method to successively approximate a feasible point of the Kuhn-Tucker set. We propose a splitting algorithm based on the resolvent of each maximally monotone operator to construct a primal-dual sequence that weakly converges to a solution of the original problem. The key feature of our method is that it only employes the resolvent of each monotone operator separately, which is different from existing methods in the literature. As a byproduct, our algorithm can be specialized to solve composite convex minimization problems that uses the proximal-operator of each objective component independently, and is equipped with a weakly convergence guarantee.

연구 동기 및 목표

• 평행합 유형의 단조 연산자를 포함하는 복합 단조 포함 문제를 다루기 위한 목표.
• 기존 프레임워크의 범위를 초월하여 더 넓은 범주로 일반화된 원시-이중 방법을 확장하기 위한 목표.
• 공통 해석 계산 없이 각 개별 단조 연산자의 해석만 요구하는 방법을 개발하기 위한 목표.
• 원래 문제의 해로 향한 원시-이중 수열의 약한 수렴을 보장하기 위한 목표.
• 각 목표 성분의 프록시멀 연산자를 독립적으로 다룰 수 있는 복합 볼록 최소화 문제에 적용 가능한 탄력적인 알고리즘 프레임워크 제공

제안 방법

• 해의 집합을 쿠른-타커 집합을 통해 원시 문제와 이중 문제의 해로 표현하며, 이는 최적성 조건을 포함한다.
• 쿠른-타커 집합 내의 타당한 점을 점진적으로 근사하기 위해 투영 기반 반복적 방법을 개발한다.
• 각 최대 단조 연산자의 해석을 별도로 계산하여 공동 해석 계산을 피함으로써 원시-이중 수열을 구성한다.
• 쿠른-타커 집합의 성질과 투영 메커니즘을 통해 수열의 약한 수렴을 증명한다.
• 각 목표 성분의 프록시멀 연산자를 독립적으로 다루는 방식으로 복합 볼록 최소화 문제에 특화한다.
• 각 연산자의 해석에만 의존함으로써 수렴을 보장하며, 이는 모듈성과 계산 가능성 향상에 기여한다.

실험 결과

연구 질문

• RQ1 원시-이중 분할 방법은 어떻게 평행합 유형의 단조 연산자를 포함하는 복합 단조 포함 문제로 확장될 수 있는가?
• RQ2 공동 해석 계산 없이 각 개별 단조 연산자의 해석만 요구하는 분할 방법을 설계할 수 있는가?
• RQ3 해당 방법이 분리 가능한 목표를 가진 복합 볼록 최소화 문제에 적용되었을 때의 수렴 행동은 어떠한가?
• RQ4 쿠른-타커 집합 프레임워크는 이 맥락에서 원시와 이중 타당성의 통합 처리를 어떻게 가능하게 하는가?
• RQ5 이 새로운 분할 전략 하에서 원시-이중 수열의 약한 수렴을 보장하기 위한 조건은 무엇인가?

주요 결과

• 제안된 방법은 원래 복합 단조 포함 문제의 해로 향한 원시-이중 수열의 약한 수렴을 달성한다.
• 알고리즘은 각 개별 단조 연산자의 해석만 요구하므로 모듈성과 효율적인 구현이 가능하다.
• 공동 해석 계산 없이도 더 넓은 범주로 일반화된 단조 포함 문제, 특히 평행합 연산자를 포함하는 문제에 적용 가능하다.
• 각 목표 성분의 프록시멀 연산자를 독립적으로 다루는 방식으로 복합 볼록 최소화 문제를 해결할 수 있다.
• 해결책 표현으로 쿠른-타커 집합을 사용함으로써 통합적이고 체계적인 수렴 분석이 가능하다.
• 특히 분리 가능하고 구조화된 단조 포함 문제의 맥락에서 일부 기존 접근보다 더 약한 가정 하에서도 새로운 수렴 보장을 제공한다.