[論文レビュー] Inexact Newton's method to nonlinear functions with values in a cone

O. P. Ferreira, G. N. Silva|arXiv (Cornell University)|Oct 7, 2015

Iterative Methods for Nonlinear Equations参考文献 19被引用数 8

ひとこと要約

本稿は、バナッハ空間における閉凸錐に値をとる非線形包含問題に適用される不正確ニュートン型手法について、半局所的収束解析を確立する。アフィン不変性を備えた主要化条件を導入し、残差誤差を許容パラメータ θ を用いて緩和することで、古典的手法よりも弱い仮定の下でも頑健な収束を証明した。これは、カントロビッチおよびスメールの定理を、解が錐内に存在することを保証する一般化された設定へと拡張するものである。

ABSTRACT

The problem of finding a solution of nonlinear inclusion problems in Banach space is considered in this paper. Using convex optimization techniques introduced by Robinson (Numer. Math., Vol. 19, 1972, pp. 341-347), a robust convergence theorem for inexact Newton's method is proved. As an application, an affine invariant version of Kantorovich's theorem and Smale's α-theorem for inexact Newton's method is obtained.

研究の動機と目的

• F: バナッハ空間に値をとり、C が閉凸錐である非線形包含問題 F(x) ∈ C を解くための不正確ニュートン法の拡張を図ること。
• アフィン不変性を有する主要化条件と残差許容度 θ を導入することで、古典的手法よりも弱い仮定の下で収束を確立すること。
• カントロビッチおよびスメールの定理を、錐制約付き問題に対する不正確ニュートン法へ一般化し、解の存在とその収束を証明すること。
• 解の存在を事前に仮定せず、初期データと主要化関数に依存するアフィン不変性を有する解析を提供すること。

提案手法

• 不正確ニュートン反復を提案：x_{k+1} = x_k + d_k で、d_k は F(x_k) + F'(x_k)d + r_k ∈ C を満たす ‖d‖ の最小化を満たす。
• 残差許容度条件を課す：max_{w∈{−r_k,r_k}} ‖T_{x_0}^{-1}w‖ ≤ θ ‖T_{x_0}^{-1}[-F(x_k)]‖、ただし 0 ≤ θ < 1。
• F 及びその微分の挙動を制御するため、アフィン不変性を有する主要化関数 f(t) を導入し、リプシッツ条件およびスメール条件を一般化する。
• T_{x_0}(d) = F'(x_0)d - C として定義される凸過程の逆行列を用いて主要化条件を定義し、ノルム空間内での収束を測定する。
• ロビンソンの凸過程理論および凸最適化技術を用いて、反復の定義可能性と収束を保証する。
• 主要化関数を用いて収束速度および収束領域を導出し、θ、b、および主要化パラメータに依存する明示的な境界を提示する。

実験結果

リサーチクエスチョン

• RQ1 不正確ニュートン法は、値が凸錐に属する非線形包含問題に拡張可能か？ また、どのような条件下で収束するか？
• RQ2 古典的手法におけるカントロビッチおよびスメールの定理は、この錐制約付き設定における不正確ニュートン法へどのように一般化可能か？
• RQ3 残差許容度 θ は、計算上の不正確さと収束の頑健性のバランスをどのように果たすか？
• RQ4 解の存在を事前に仮定せず、初期データと主要化条件にのみ依存して収束を確立できるか？
• RQ5 収束領域および収束速度は、主要化関数およびパラメータ θ にどのように依存するか？

主な発見

• アフィン不変性を有する主要化条件と残差許容度 θ < 1 の下で、不正確ニュートン法は適切に定義され、F(x) ∈ C の解に収束する。
• 収束領域は、λ = b / (√(γb) + γb) で定義される球 B(x_0, λ) に含まれる。ここで b = ‖T_{x_0}^{-1}[-F(x_0)]‖ である。
• 主要化条件の下で、列は ‖T_{x_0}^{-1}[-F(x_k)]‖ ≤ [(1+θ²)/2]^k b の境界を満たし、解に収束することが保証される。
• θ = 0 かつ C = {0} の場合、既知の文献の結果に還元される：正確法については [13, Theorem 18]、不正確法については [16, Theorem 6.3]。
• スメールの条件が成り立つ場合、収束は Q-線形的であり、収束率は (1+θ)/(1−θ) [ (1+θ)/2 + 2θ/(1−2√(γb)−γb) ] で有界である。ただし θ が十分に小さいことが条件となる。
• 解析は頑健かつ半局所的である：解の存在を事前に仮定せず、初期データと主要化関数にのみ依存して、解の存在と収束を証明する。