[논문 리뷰] Learning optimal spatially-dependent regularization parameters in total variation image restoration

Cao Van Chung, Juan Carlos De los Reyes외 1명|arXiv (Cornell University)|2016. 03. 30.

Numerical methods in inverse problems참고 문헌 1인용 수 9

한 줄 요약

이 논문은 전체 미분(TV) 영상 복원에서 공간에 따라 변화하는 정규화 매개수 λ ∈ H¹(Ω)를 학습하기 위해 함수 공간 내 이중 최적화 프레임워크를 제안한다. 여기서 매개수 λ는 적합성과 정규화의 균형을 맞추기 위해 최적화된다. 일阶 및 이阶 최적성 조건을 사용하여, 국소 초선형 수렴을 달성하는 병합된 슈바르츠 도메인 분할-반탄성 뉴턴 방법을 개발하였으며, 이는 일정한 λ 값 선택에 비해 뛰어난 영상 복원 성능을 보여준다.

ABSTRACT

We consider a bilevel optimization approach in function space for the choice of spatially dependent regularization parameters in TV image restoration models. First- and second-order optimality conditions for the bilevel problem are studied, when the spatially-dependent parameter belongs to the Sobolev space $H^1(Ω)$. A combined Schwarz domain decomposition-semismooth Newton method is proposed for the solution of the full optimality system and local superlinear convergence of the semismooth Newton method is analyzed. Exhaustive numerical computations are finally carried out to show the suitability of the approach.

연구 동기 및 목표

• TV 기반 영상 복원에서 최적의 공간적으로 변화하는 정규화 매개수를 선택하는 문제에 대응하기 위해.
• λ ∈ H¹(Ω)와 국소 긍정성 제약 조건을 갖는 이중 최적화 문제에 대한 일阶 및 이阶 최적성 조건을 수립하기 위해.
• 유사한 복잡한, 비미분 가능하고 PDE 제약 조건이 있는 최적성 시스템을 위한 수치적으로 효율적인 해법 전략을 개발하기 위해.
• 실제 영상 복원 작업에서 제안된 수치적 방법의 국소 초선형 수렴을 검증하기 위해.

제안 방법

• 상위 수준은 훈련 이미지의 데이터 불일치를 최소화하는 함수 공간 내 이중 최적화 문제를 설정하고, 하위 수준은 공간적으로 변화하는 λ를 갖는 TV 복원 문제를 해결한다.
• 라그랑주 승수를 통해 일阶 최적성 조건을 유도하고, 해의 연산자에 대한 프레셰 미분 가능성을 증명하며, 적절한 가정 하에 이阶 프레셰 미분 가능성을 이전 결과에서 확장한다.
• 비판적 방향의 원뿔을 도입하고 모순 추론을 사용하여 이阶 충분 최적성 조건을 확립한다.
• 슈바르츠 도메인 분할을 적용하여 계산 도메인을 겹치는 부분영역으로 분할하고, 각 부분영역에서 축소된 최적성 시스템을 푼다.
• 각 부분영역 내에서 비선형이고 비미분 가능한 시스템을 해결하기 위해 반탄성 뉴턴 방법을 구현하며, 국소 초선형 수렴을 보장하는 수렴 분석을 수행한다.
• 대규모이고 결합된 PDE 시스템을 효율적으로 다루기 위해 도메인 분할과 반탄성 뉴턴 반복을 결합한 알고리즘 프레임워크를 제안한다.

실험 결과

연구 질문

• RQ1 H¹(Ω) 내에서 공간적으로 의존하는 정규화 매개수를 갖는 이중 TV 복원 문제에 대해 이阶 최적성 조건를 유도할 수 있는가?
• RQ2 적절한 가정 하에 하위 수준의 TV 문제의 해 연산자가 두 번 프레셰 미분 가능하다고 어떻게 보일 수 있는가?
• RQ3 이중 최적화 공식화에서 유도된 최적성 시스템에 반탄성 뉴턴 방법을 적용했을 때의 수렴 거동는 어떠한가?
• RQ4 슈바르츠 도메인 분할 방법을 선형화된 형태가 아닌 비선형이고 비미분 가능한 최적성 시스템에 직접 효과적으로 적용할 수 있는가?
• RQ5 이미지 복원 품질과 수렴 속도 측면에서 공간적으로 변화하는 λ는 일정한 λ에 비해 어떻게 성능이 뛰어나게 되는가?

주요 결과

• 적절한 조건 하에서 하위 수준의 TV 복원 문제의 해 연산자가 두 번 프레셰 미분 가능하다고 증명되어, 이阶 최적성 분석이 가능해졌다.
• 비판적 방향의 원뿔과 모순 추론을 사용하여 이阶 충분 최적성 조건를 확립하였으며, 최적 매개수의 국소 유일성과 안정성을 보장한다.
• 병합된 슈바르츠 도메인 분할-반탄성 뉴턴 방법은 이론적으로 증명되고 수치적으로 검증된 바에 따라 국소 초선형 수렴을 달성한다.
• 체계적인 수치 실험을 통해 공간에 따라 변화하는 λ가 일정한 λ에 비해 이질적인 노이즈 처리 및 미세 구조 유지 측면에서 뛰어난 영상 복원 품질을 제공함을 확인하였다.
• 훈련 세트의 두 배에 해당하는 방정정수를 포함하는 전체 최적성 시스템을 성공적으로 처리하여, 벤치마크 이미지에서의 확장성과 강건성을 입증하였다.
• 그림 1.2에서 보듯이, 공간적으로 적응하는 λ는 균일한 정규화보다 가장자리와 질감을 더 잘 유지하여 일정 매개수 모델을 능가하는 성능을 보였다.