[논문 리뷰] A convergence analysis of a multi-level projected steepest descent iteration for nonlinear inverse problems in Banach spaces subject to stability constraints

Maarten V. de Hoop, Lingyun Qiu외 1명|arXiv (Cornell University)|2012. 06. 16.

Numerical methods in inverse problems참고 문헌 19인용 수 9

한 줄 요약

이 논문은 조건적 안정성 제약 조건 하에 바나흐 공간 내 비선형 역문제에 대한 다중 수준 투영 최강하강 알고리즘을 제안한다. 통제된 안정성 상수 증가를 갖는 중첩된 볼록 부분집합을 활용함으로써, 노이즈가 있는 데이터에도 불구하고 유한 단계 수렴과 더 넓은 수렴 반경을 달성하며, 단일 수준 방법에 비해 정확도와 견고성에서 뛰어난 성능을 발휘한다.

ABSTRACT

We consider nonlinear inverse problems described by operator equations in Banach spaces. Assuming conditional stability of the inverse problem, that is, assuming that stability holds on a closed, convex subset of the domain of the operator, we introduce a novel nonlinear projected steepest descent iteration and analyze its convergence to an approximate solution given limited accuracy data. We proceed with developing a multi-level algorithm based on a nested family of closed, convex subsets on which stability holds and the stability constants are ordered. Growth of the stability constants is coupled to the increase in accuracy of approximation between neighboring levels to ensure that the algorithm can continue from level to level until the iterate satisfies a desired discrepancy criterion, after a finite number of steps.

연구 동기 및 목표

• 바나흐 공간 내에서 역연산자가 도메인의 닫힘 볼록 부분집합에서만 조건적 안정성만 확보되는 비선형 역문제를 다루는 것.
• 조건적 리프시츠 안정성 하에 투영 최강하강 반복의 수렴 분석을 수립하고, 데이터 오차를 고려하는 것.
• 단일 수준 방법을 중첩된 볼록 집합에서의 점진적 근사로 유도된 다중 수준 프레임워크로 확장하여 안정성 상수의 증가를 완화하는 것.
• 유한 단계 수렴을 보장하는 근사 오차와 안정성 상수에 대한 충분조건을 설정하는 것.

제안 방법

• 알고리즘은 조건적 안정성이 유지되는 닫힘 볼록 부분집합에 대한 반복값을 투영하는 투영 최강하강 반복을 사용하며, 후행 백트래킹 선색색법을 적용한다.
• 해의 근접도를 측정하기 위해 브레그만 거리를 사용하고, 반복 과정 전반에 걸쳐 잔차의 단조 감소를 보장한다.
• 다중 수준 전략은 안정성 상수 $\mathfrak{C}_\alpha$ 가 통제된 방식으로 증가하는 닫힘 볼록 부분집합의 가중족 $\{Z_\alpha\}$ 을 사용한다.
• 프레셰 도함수 $DF_\alpha$ 의 리프시츠 연속성에 기반하여 매개변수를 동적으로 조정하며, 수렴 행동을 지배하는 상수 $\hat{\mathfrak{L}}_\alpha$ 와 $\mathfrak{L}_\alpha$ 를 사용한다.
• 정지 기준으로 오차 허용치 $\hat{\eta}$ 를 사용하여, 최종 반복값이 유한 반복 후에 $\|F(x_{N,K_N}) - y\| \leq \hat{\eta}$ 를 만족함을 보장한다.
• 이론적 수렴성은 안정성 상수, 데이터 오차, 문제 파라미터에 의존하는 수렴 반경 $\rho_n$ 의 경계를 통해 확립된다.

실험 결과

연구 질문

• RQ1 조건적 안정성이 볼록 부분집합에서만 성립할 경우, 비선형 역문제에 대한 투영 최강하강 반복이 바나흐 공간 내 해로 수렴할 수 있는가?
• RQ2 증가하는 안정성 상수 하에서 단일 수준 투영 최강하강 방법의 수렴 반경을 어떻게 향상시킬 수 있는가?
• RQ3 근사 오차와 안정성 상수에 어떤 조건이 필요하여 다중 수준 프레임워크에서 유한 단계 수렴이 보장되는가?
• RQ4 다중 수준 접근은 수준 간 증가하는 안정성 상수의 악영향을 어떻게 완화하는가?
• RQ5 초기 추정치가 진짜 해에서 멀리 떨어져 있어도, 수준 간 점진적 정밀화를 통해 고정밀도 해를 달성할 수 있는가?

주요 결과

• 데이터 오차가 유계이고 볼록 부분집합에서 안정성이 확보될 경우, 투영 최강하강 반복은 단조롭게 잔차 기준을 만족하는 해로 수렴한다: $\|F(x) - y\| \leq \hat{\eta}$.
• 수준 $n$ 의 수렴 반경 $\rho_n$ 은 $\left(\frac{C_p}{p}\right)^3 (8\tau)^{-p} (n+1)^{-p} < \rho_n < \left(\frac{C_p}{p}\right)^3 (2\tau)^{-p} (n+1)^{-p}$ 를 만족하며, 이는 수준에 따라 역다항식 감소를 나타낸다.
• 단일 수준 방법의 경우, 초기 추정치가 수렴 반경 $\rho_0$ 외부에 있을 경우 수렴에 실패하거나 정확도가 낮아질 수 있으며, 특히 $\eta_0 = \lambda/2 \gg \hat{\eta}$ 일 경우 더욱 심각하다.
• 다중 수준 알고리즘은 단일 수준 방법이 악성 초깃값 또는 큰 $\rho_n$ 으로 실패할 경우에도 유한 단계 내에서 잔차 $\|F(x_{N,K_N}) - y\| \leq \hat{\eta}$ 를 만족하는 해로 수렴을 보장한다.
• 근사 오차와 안정성 상수 증가의 균형을 수준 간에 조절함으로써, 단일 수준 방법보다 훨씬 넓은 수렴 반경을 달성한다.
• 예시에서 $\mathfrak{C}_\alpha = 2e^\alpha$, $\hat{\mathfrak{L}}_\alpha = (\alpha+1)e^{-\alpha}$, $\mathfrak{L}_\alpha = \tau e^{-\alpha}$ 일 경우, $4\eta_N \leq \hat{\eta}$ 를 만족하는 $N$ 수준 이후에 알고리즘이 성공적으로 수렴한다.