[논문 리뷰] Solving Composite Monotone Inclusions in Reflexive Banach Spaces by Constructing Best Bregman Approximations from Their Kuhn-Tucker Set

Patrick L. Combettes, Quang Van Nguyen|arXiv (Cornell University)|2015. 05. 02.

Optimization and Variational Analysis참고 문헌 36인용 수 5

한 줄 요약

이 논문은 반사적 바나흐 공간 내 복합 단조 포함 문제를 해결하기 위해 새로운 원시-이중 연산자 분할 방법을 제안한다. 이 방법은 쿠른-터커 집합으로부터 주어진 점에 대한 최적의 브레그만 근사값을 구성함으로써 강한 수렴성을 달성한다. 표준 유클리드 거리 대신 브레그만 거리 기반의 해소자 연산자를 사용함으로써, 연산자 노름에 대한 지식이나 단조 연산자에 대한 추가 제약 조건 없이도 강한 수렴성을 확보한다.

ABSTRACT

We introduce the first operator splitting method for composite monotone inclusions outside of Hilbert spaces. The proposed primal-dual method constructs iteratively the best Bregman approximation to an arbitrary point from the Kuhn-Tucker set of a composite monotone inclusion. Strong convergence is established in reflexive Banach spaces without requiring additional restrictions on the monotone operators or knowledge of the norms of the linear operators involved in the model. The monotone operators are activated via Bregman distance-based resolvent operators. The method is novel even in Euclidean spaces, where it provides an alternative to the usual proximal methods based on the standard distance.

연구 동기 및 목표

• 반사적 바나흐 공간 내 복합 단조 포함 문제에 대한 첫 번째 연산자 분할 방법을 개발함으로써 힐버트 공간 설정을 초월한다.
• 기존 방법들이 약한 수렴성만 달성하거나 연산자 노름에 대한 지식이 필요로 하는 한계를 해결한다.
• 기본적으로 주어진 점에 대한 쿠른-터커 집합으로부터 최적의 브레그만 근사값을 구성함으로써 강한 수렴성을 보장한다.
• 유클리드 공간 내에서도 구현 가능한 프레임워크를 제공함으로써, 표준 프락시멀 방법보다 잠재적으로 더 효율적인 해소자 평가를 가능하게 한다.

제안 방법

• 레전드르 함수에 의해 유도된 브레그만 거리를 사용하여 단조 연산자의 해소자 연산자를 정의함으로써, 표준 유클리드 거리 대체한다.
• 복합 포함 문제 $ A + L^*BL $ 의 쿠른-터커 집합으로부터 주어진 점에 대한 최적의 브레그만 근사값을 반복적으로 구성한다. 여기서 $ A $ 와 $ B $ 는 최대 단조적이며 $ L $ 은 유계 선형이다.
• 알고리즘은 각각 $ ( abla f + au A)^{-1} $ 과 $ ( abla g + ho B)^{-1} $ 의 브레그만 해소자 연산자를 통해 $ A $ 와 $ B $ 를 별도로 활성화한다.
• 원시-이중 구조를 활용하며, 이중 변수는 $ L $ 의 수반을 통해 업데이트되어 쿠른-터커 조건과 일致하도록 보장한다.
• 강한 수렴성 확보를 위해 $ abla f + au A $ 와 $ abla g + ho B $ 의 강력성 및 전체 정의도를 가정하며, 이는 레전드르 및 초강력성 조건 하에 보장된다.
• 반사적 바나흐 공간 내에서 $ orm{L} $ 의 지식이 없이도 강한 수렴성을 확립한다.

실험 결과

연구 질문

• RQ1 반사적 바나흐 공간 내 복합 단조 포함 문제에 대해 힐버트 공간 설정을 초월하는 원시-이중 연산자 분할 방법을 개발할 수 있는가?
• RQ2 복합 모델 $ A + L^*BL $ 내 선형 연산자 $ L $ 의 노름을 알지 못해도 강한 수렴성을 달성할 수 있는가?
• RQ3 유클리드 공간 내에서 표준 프락시멀 방법에 비해 브레그만 거리가 더 효율적이거나 더 민첩한 프레임워크를 제공할 수 있는가?
• RQ4 바나흐 공간 내에서 브레그만 거리를 사용하여 주어진 점에 대한 쿠른-터커 집합으로부터 최적의 근사값을 구성할 수 있는가?
• RQ5 계산 가능성을 고려할 때 브레그만 해소자 연산자와 표준 프락시멀 연산자 간의 비교는 어떻게 이루어지는가?

주요 결과

• 제안된 방법은 반사적 바나흐 공간 내에서 주어진 점에 대한 쿠른-터커 집합으로부터 최적의 브레그만 근사값으로 강한 수렴성을 달성한다.
• 이 방법은 $ orm{L} $ 의 지식이 필요 없어 힐버트 공간 내 기존 원시-이중 방법의 핵심 한계를 극복한다.
• 유클리드 공간 내에서 표준 프락시멀 방법의 대안이 되며, 브레그만 해소자를 사용함으로써 계산 효율성이 높을 수 있다.
• 특정 $ f $ 의 선택(예: 볼츠만-샤논 또는 페르미-디랙 엔트로피)에 따라 브레그만 해소자를 람베르트 함수를 사용해 명시적으로 계산할 수 있다.
• 기본 함수 $ f $ 가 이차 함수가 아니어도 적용 가능하므로, 힐버트 공간 프락시멀 알고리즘의 적용 범위를 초월한 광범위한 적용 가능성을 제공한다.
• 최소한의 가정 하에 이론적 보장을 확보한다: $ f $ 는 레전드르 함수이며, $ A $, $ B $ 는 적절한 정의도 조건을 만족하는 최대 단조이다.