[論文レビュー] A convergence analysis of a multi-level projected steepest descent iteration for nonlinear inverse problems in Banach spaces subject to stability constraints

Maarten V. de Hoop, Lingyun Qiu+1 more|arXiv (Cornell University)|Jun 16, 2012

Numerical methods in inverse problems参考文献 19被引用数 9

ひとこと要約

本稿では、条件付き安定性制約下でのバナッハ空間における非線形逆問題に対して、多段階投影勾配降下法を導入する。ネストされた凸集合を用い、安定性定数の成長を制御することで、ノイズのあるデータに対しても収束半径が向上し、有限ステップで不一致許容解に収束する。単一段階法に比べ、精度とロバスト性に優れる。

ABSTRACT

We consider nonlinear inverse problems described by operator equations in Banach spaces. Assuming conditional stability of the inverse problem, that is, assuming that stability holds on a closed, convex subset of the domain of the operator, we introduce a novel nonlinear projected steepest descent iteration and analyze its convergence to an approximate solution given limited accuracy data. We proceed with developing a multi-level algorithm based on a nested family of closed, convex subsets on which stability holds and the stability constants are ordered. Growth of the stability constants is coupled to the increase in accuracy of approximation between neighboring levels to ensure that the algorithm can continue from level to level until the iterate satisfies a desired discrepancy criterion, after a finite number of steps.

研究の動機と目的

• バナッハ空間における非線形逆問題に対処すること。ここで逆演算子は、定義域の閉凸集合上でのみ条件付き安定である。
• 条件付きリプシッツ安定性下での投影勾配降下反復の収束解析を構築すること。データ不正確さを含む。
• 単一段階法を、安定性定数の成長を段階的に抑制するネストされた凸集合上での逐次近似を用いて多段階フレームワークに拡張すること。
• 近似誤差と安定性定数に関する十分条件を確立し、不一致基準を満たす解への有限ステップ収束を保証すること。

提案手法

• 反復を条件付き安定性が成り立つ閉凸集合上に投影する投影勾配降下反復を採用。後向きバックトラッキングラインサーチを併用。
• 解の近接度を測るためにブレグマン距離を用い、反復全体を通して残差が単調に減少することを保証。
• 安定性定数 $\mathfrak{C}_\alpha$ の成長を制御するネストされた閉凸集合族 $\{Z_\alpha\}$ を用いた多段階戦略を導入。
• フリーチェ微分 $DF_\alpha$ のリプシッツ連続性に基づき、パrameterを動的に調整。収束行動を支配する定数 $\hat{\mathfrak{L}}_\alpha$ と $\mathfrak{L}_\alpha$ を用いる。
• 停止基準として不一致許容誤差 $\hat{\eta}$ を用い、有限反復後に $\|F(x_{N,K_N}) - y\| \leq \hat{\eta}$ を満たす最終反復が得られることを保証。
• 収束半径 $\rho_n$ の境界を用いて理論的収束を確立。安定性定数、データ不正確さ、問題パrameterに依存する。

実験結果

リサーチクエスチョン

• RQ1 閉凸集合上で条件付き安定性が成り立つ非線形逆問題において、投影勾配降下反復が解に収束可能か？
• RQ2 安定性定数が増加する条件下で、単一段階の投影勾配降下法の収束半径をどのように向上できるか？
• RQ3 多段階フレームワークにおいて、近似誤差と安定性定数にどのような条件を課せば有限ステップ収束が保証されるか？
• RQ4 多段階アプローチは、各段階で安定性定数が増大する悪影響をどのように緩和するか？
• RQ5 初期推定値が真の解から遠くても、段階的精錬を活用することで高精度解が得られるか？

主な発見

• データ不正確さが有界で、閉凸集合上で安定性が保証される限り、投影勾配降下反復は不一致基準 $\|F(x) - y\| \leq \hat{\eta}$ を満たす解に単調に収束する。
• 段階 $n$ の収束半径 $\rho_n$ は、不等式 $\left(\frac{C_p}{p}\right)^3 (8\tau)^{-p} (n+1)^{-p} < \rho_n < \left(\frac{C_p}{p}\right)^3 (2\tau)^{-p} (n+1)^{-p}$ を満たし、段階に伴い逆多項式的に減少することが示された。
• 単一段階法では、初期推定値が収束半径 $\rho_0$ の外側にある場合、収束しないか、精度が著しく低下する可能性がある。特に $\eta_0 = \lambda/2 \gg \hat{\eta}$ の場合に顕著。
• 多段階アルゴリズムは、初期推定値が悪くても、または $\rho_n$ が大きい場合でも、有限ステップで残差 $\|F(x_{N,K_N}) - y\| \leq \hat{\eta}$ を満たす解に収束を保証する。
• 近似誤差と安定性定数の成長のバランスを段階間で最適化することで、単一段階法に比べて著しく大きな収束半径を達成する。
• 例として $\mathfrak{C}_\alpha = 2e^\alpha$、$\hat{\mathfrak{L}}_\alpha = (\alpha+1)e^{-\alpha}$、$\mathfrak{L}_\alpha = \tau e^{-\alpha}$ を用い、$4\eta_N \leq \hat{\eta}$ を満たす $N$ 段階後にアルゴリズムは正常に収束した。