[논문 리뷰] General Resolvents for Monotone Operators: Characterization and Extension

Heinz H. Bauschke, Xianfu Wang외 1명|ArXiv.org|2008. 10. 21.

Optimization and Variational Analysis참고 문헌 32인용 수 26

한 줄 요약

이 논문은 반사적 바나흐 공간에서 단조 연산자의 일반화된 프레임워크를 제안하며, 단조 연산자 $ F $ 를 사용하여 $ F $- firmly nonexpansive 사상이 정확히 최대 단조 연산자의 $ F $-해석형임을 증명한다. 주요 기여는 고전적, 쌍대성 기반, 브레그만 기반 해석형을 포함하는 통합적 특성화이며, 일반화된 거의 비압축성 사상에 대한 구조적 키르슈브라운-발렌타인 확장도 제시한다.

ABSTRACT

Monotone operators, especially in the form of subdifferential operators, are of basic importance in optimization. It is well known since Minty, Rockafellar, and Bertsekas-Eckstein that in Hilbert space, monotone operators can be understood and analyzed from the alternative viewpoint of firmly nonexpansive mappings, which were found to be precisely the resolvents of monotone operators. For example, the proximal mappings in the sense of Moreau are precisely the resolvents of subdifferential operators. More general notions of "resolvent", "proximal mapping" and "firmly nonexpansive" have been studied. One important class, popularized chiefly by Alber and by Kohsaka and Takahashi, is based on the normalized duality mapping. Furthermore, Censor and Lent pioneered the use of the gradient of a well behaved convex functions in a Bregman-distance based framework. It is known that resolvents are firmly nonexpansive, but the converse has been an open problem for the latter framework. In this note, we build on the very recent characterization of maximal monotonicity due to Martinez-Legaz to provide a framework for studying resolvents in which firmly nonexpansive mappings are always resolvents. This framework includes classical resolvents, resolvents based on the normalized duality mapping, resolvents based on Bregman distances, and even resolvents based on (nonsymmetric) rotators. As a by-product of recent work on the proximal average, we obtain a constructive Kirszbraun-Valentine extension result for generalized firmly nonexpansive mappings. Several examples illustrate our results.

연구 동기 및 목표

• 바나흐 공간 내에서 기존의 해석형, 프록시멀 사상, 거의 비압축성 사상의 개념을 통합하고 일반화하기.
• 브레그만 거리나 쌍대성 사상 기반과 같은 일반화된 프레임워크에서 거의 비압축성 사상이 항상 해석형인지 여부라는 열린 문제를 해결하기.
• $ F $- 거의 비압축성 사상에 대한 구조적 키르슈브라운-발렌타인 확장 정리를 수립하기.
• 일반화된 설정 내에서 민티 프레임워크를 활용하여 단조 연산자의 그래프를 매개변수화하기.
• 고전적 프록시멀 포인트 방법을 확장하는 $ F $-해석형 기반 반복 알고리즘의 수렴 이론 개발하기.

제안 방법

• 최대 단조 연산자 $ F $ 를 기반으로 하여 $ F $- 거의 비압축성 사상과 $ F $-해석형을 정의하는 프레임워크를 수립한다.
• Martínez-Legaz의 피츠제이프 함수를 통한 최대 단조성의 특성화를 활용하여 $ F $-해석형이 잘 정의되고 단일값임을 보장하는 조건을 설정한다.
• $ F $-해석형을 $ (\operatorname{Id} + F)^{-1}F $ 로 정의하여 고전적 해석형, 쌍대성 기반 해석형, 브레그만 기반 해석형을 일반화한다.
• 논문은 $ F $-해석형이 $ F $- 거의 비압축성임을 증명하며, 반대로 모든 $ F $- 거의 비압축성 사상은 어떤 $ F $-해석형으로서 나타남을 보인다.
• 프록시멀 평균을 사용하여 $ F $- 거의 비압축성 사상의 구조적 키르슈브라운-발렌타인 확장을 유도함으로써, 부분정의역에서 전체 공간으로의 확장을 가능하게 한다.
• 예시를 통한 검증을 통해 $ F = \nabla \frac{1}{p}\|\cdot\|^p $ 와 반복적 알고리즘의 수렴 분석이 수행된다.

실험 결과

연구 질문

• RQ1 모든 $ F $- 거의 비압축성 사상이 어떤 최대 단조 연산자의 $ F $-해석형인가요? 조건은 무엇인가요?
• RQ2 고전적 해석형, 쌍대성 기반 해석형, 브레그만 기반 해석형을 특수한 경우로 포함하는 통합적 프레임워크를 구성할 수 있나요?
• RQ3 $ F $- 거의 비압축성 사상에 대한 구조적 확장 정리가 존재하는가, 고전적 키르슈브라운-발렌타인 정리의 일반화인가요?
• RQ4 민티 접근 방식을 따르며, 이 일반화된 프레임워크에서 단조 연산자의 그래프를 어떻게 매개변수화할 수 있나요?
• RQ5 $ F $-해석형 기반 반복적 알고리즘이 수렴하는가, 그리고 어떤 조건에서 수렴하는가?

주요 결과

• 논문은 $ F $- 거의 비압축성 사상과 최대 단조 연산자의 $ F $-해석형 사이의 일대일 대응을 확립하여, 일반화된 해석형 이론에서 오랫동안 열려 있던 문제를 해결한다.
• 선형 연산자 $ F $ 와 $ \|T\| < 1 $ 인 경우, 항등연산자의 $ F $-해석형이 반복 시 0으로 수렴함을 보였으며, 이는 고전적 프록시멀 포인트 알고리즘의 수렴을 일반화한다.
• $ F = \nabla \frac{1}{p}\|\cdot\|^p $ 인 경우, 항등연산자의 $ F $-해석형이 명시적으로 $ T_p(x) = k_p(x)x $ 로 계산되며, $ k_p(x) $ 는 $ k^{p-1} + \frac{k}{\|x\|^{p-2}} = 1 $ 을 만족하고, $ p \to 1^+ $ 및 $ p \to \infty $ 에서의 점별 극한이 유도된다.
• 프록시멀 평균을 사용하여 $ F $- 거의 비압축성 사상에 대한 구조적 키르슈브라운-발렌타인 확장을 확보함으로써, 정의역에서 전체 공간으로의 확장이 가능해지며, $ F $- 거의 비압축성 성질이 유지된다.
• 역해석형 항등식이 $ F $-설정으로 일반화되어, $ A^{-1} $ 의 $ F $-해석형이 $ A $ 의 $ F $-해석형으로 표현됨을 보였으며, 고전적 쌍대성 결과를 확장한다.
• 이 프레임워크는 고전적 해석형, 쌍대성 기반 해석형(예: $ F = J $), 브레그만 기반 해석형을 특수한 경우로 포함하여 광범위한 통합을 보여준다.