[논문 리뷰] A Douglas-Rachford type primal-dual method for solving inclusions with mixtures of composite and parallel-sum type monotone operators

Radu Ioan Boţ, Christopher Hendrich|arXiv (Cornell University)|2012. 12. 03.

Numerical methods in inverse problems참고 문헌 5인용 수 10

한 줄 요약

이 논문은 복합형 및 평행합 유형의 단조 연산자를 포함하는 단조 포함 문제를 해결하기 위한 두 가지 비정확한 원시-이중 도우글라스-라흐포드 분할 알고리즘을 제안한다. 이 방법들은 각각 유계 선형 연산자와 다중값 연산자를 해석자와 전진 단계를 통해 처리함으로써 병렬 처리와 오차 내성 가능성을 확보하며, 수렴 보장과 함께 영상 복원 및 위치 문제에서의 뛰어난 성능을 입증한다.

ABSTRACT

In this paper we propose two different primal-dual splitting algorithms for solving inclusions involving mixtures of composite and parallel-sum type monotone operators which rely on an inexact Douglas-Rachford splitting method, however applied in different underlying Hilbert spaces. Most importantly, the algorithms allow to process the bounded linear operators and the set-valued operators occurring in the formulation of the monotone inclusion problem separately at each iteration, the latter being individually accessed via their resolvents. The performances of the primal-dual algorithms are emphasized via some numerical experiments on location and image deblurring problems.

연구 동기 및 목표

• 복합형 및 평행합 유형의 단조 연산자를 혼합으로 포함하는 원시-이중 단조 포함 문제를 해결하기 위한 알고리즘을 개발한다.
• 다중값 연산자를 별도로 해석자 기반으로 처리하고, 유계 선형 연산자를 전진 단계를 통해 명시적으로 처리함으로써 연산자 처리를 분리한다.
• 해석자 평가에서 누적 가능한 오차를 허용하는 비정확한 계산을 가능하게 하여 실용적 구현 가능성을 향상시킨다.
• 리프시츠 연속성 또는 코코ercivity 조건을 요구하지 않는 최소한의 가정 하에 약한 수렴과 강한 수렴을 보장한다.
• 특히 영상 복원 및 위치 문제에서의 볼록 최적화 문제에 대한 알고리즘 성능을 시연한다.

제안 방법

• 알고리즘은 다양한 힐버트 공간에 적용된 비정확한 도우글라스-라흐포드 분할 방법에 기반하며, 단조 포함 문제의 구조를 활용한다.
• 다중값 연산자는 각각의 해석자를 통해 개별적으로 접근하고, 유계 선형 연산자는 연산자 또는 그 수반 연산자의 전진 단계를 통해 처리한다.
• 포합 문제의 구성 요소를 분리하기 위해 프로덕트 힐버트 공간 프레임워크에 기반하여 알고리즘을 구성한다.
• 알고리즘은 각 반복에서 해석자와 전진 단계를 병렬로 독립적으로 계산할 수 있도록 설계되어 있으며, 병렬 처리가 가능하다.
• 일반적인 조건 하에 수렴을 확립하며, 해석자 평가에서 누적 가능한 오차를 포함하고 있으며, 리프시츠 또는 코코ercive 성질을 가정하지 않는다.
• 서브디퍼렌셜 연산자가 프록시멀 포oin트 매핑으로 이어지는 펜첼 쌍대성의 활용을 통해 볼록 최적화에 적용된다.

실험 결과

연구 질문

• RQ1 원시-이중 분할 알고리즘이 복합형 및 평행합 유형의 단조 연산자를 혼합으로 처리할 수 있도록 확장될 수 있는가? 이 경우 연산자 처리를 분리할 수 있는가?
• RQ2 해석자 평가에서의 비정확성은 원시-이중 알고리즘의 수렴성을 유지하면서 어떻게 통합될 수 있는가?
• RQ3 리프시츠 또는 코코ercivity 조건 없이 최소한의 가정 하에 제안된 방법의 수렴 거동은 어떠한가?
• RQ4 이미지 복원 작업에서 기존의 전진-뒤로-전진 방법과 비교해 제안된 알고리즘의 성능은 어떠한가?
• RQ5 대규모 문제인 영상 복원과 같은 문제에서 알고리즘이 효율적으로 병렬 처리되고 실용적으로 구현될 수 있는가?

주요 결과

• 제안된 알고리즘은 해석자 계산에서 누적 가능한 오차를 포함하는 일반적인 가정 하에 원시-이중 단조 포함 문제에 대해 약한 수렴과 강한 수렴을 달성한다.
• 알고리즘 3.1과 알고리즘 3.2는 모두 복합 최소화 문제에 적용 가능하며, 조건부 조건 하에 원시-이중 최적화 쌍을 해결하는 것과 수렴성이 동일하다.
• 256×256 사이즈의 카메라맨 이미지에 대한 수치 실험 결과, 두 알고리즘이 목적 함수 감소와 ISNR 향상 측면에서 전진-뒤로-전진 방법보다 뛰어난 성능을 보였다.
• 그림 4.4에서의 ISNR 값과 목적 함수 변화 곡선은 DR1(알고리즘 3.1)과 DR2(알고리즘 3.2)가 FBF 방법보다 더 빠르게 수렴하고 더 우수한 재구성 품질을 달성함을 시사한다.
• 해석자 평가에서 누적 가능한 오차 시퀀스를 사용한 결과, 알고리즘은 실현 오차에 대해 강건함을 입증하였으며 수렴에 영향을 주지 않았다.
• 해석자 및 전진 연산을 포함한 대부분의 단계가 독립적으로 계산될 수 있으므로 알고리즘은 매우 높은 병렬성 구현이 가능하다.