[논문 리뷰] Inexact Newton's method to nonlinear functions with values in a cone

O. P. Ferreira, G. N. Silva|arXiv (Cornell University)|2015. 10. 07.

Iterative Methods for Nonlinear Equations참고 문헌 19인용 수 8

한 줄 요약

이 논문은 바나흐 공간에서 닫힌 볼록 코너에 값을 갖는 비선형 포함 문제에 적용된 비정확 뉴턴 유형 방법에 대한 반국소 수렴 분석을 수립한다. 애फ인 불변 주도 조건을 도입하고 잔차 오차를 허용 오차 매개변수 θ를 통해 완화함으로써, 고전적 방법보다 더 약한 가정 하에 강건한 수렴을 증명하며, 코니드-칸토로비치 및 스말의 정리들을 이 일반화된 설정으로 확장하여 코너 내에 해로의 수렴을 보장한다.

ABSTRACT

The problem of finding a solution of nonlinear inclusion problems in Banach space is considered in this paper. Using convex optimization techniques introduced by Robinson (Numer. Math., Vol. 19, 1972, pp. 341-347), a robust convergence theorem for inexact Newton's method is proved. As an application, an affine invariant version of Kantorovich's theorem and Smale's α-theorem for inexact Newton's method is obtained.

연구 동기 및 목표

• F: 바나흐 공간에 값을 갖는 함수이고 C가 닫힌 볼록 코너일 때, F(x) ∈ C 형태의 비선형 포함 문제를 해결하기 위해 비정확 뉴턴 방법을 확장한다.
• 애फ인 불변 주도 조건과 잔차 허용 오차 θ를 도입하여 고전적 뉴턴 방법보다 더 약한 가정 하에 수렴을 확립한다.
• 비정확 뉴턴 방법을 코너 제약 문제에 대해 코니드-칸토로비치 및 스말의 정리를 일반화하며, 해의 존재성과 그로의 수렴을 증명한다.
• 해의 존재성을 사전에 가정하지 않고, 초기 데이터와 주도 함수에 의존하는 애फ인 불변 분석을 제공한다.

제안 방법

• 비정확 뉴턴 반복을 제안: x_{k+1} = x_k + d_k, 여기서 d_k는 F(x_k) + F'(x_k)d + r_k ∈ C 를 만족시키는 ‖d‖의 최소화를 통해 정의된다.
• 잔차 허용 오차 조건을 도입: max_{w∈{−r_k,r_k}} ‖T_{x_0}^{-1}w‖ ≤ θ ‖T_{x_0}^{-1}[-F(x_k)]‖, 여기서 0 ≤ θ < 1.
• F와 그 도함수의 행동을 제어하기 위해 애फ인 불변 주도 함수 f(t)를 도입하며, 리프시츠 조건과 스말 조건을 일반화한다.
• T_{x_0}(d) = F'(x_0)d - C 를 역으로 정의하여 주도 조건을 설정하고, 노름 공간에서 수렴을 측정한다.
• 로빈슨의 볼록 과정 이론과 볼록 최적화 기법을 적용하여 반복의 정의 가능성과 수렴성을 보장한다.
• 주도 함수를 사용하여 수렴 속도와 수렴 영역을 유도하며, θ, b 및 주도 매개변수에 따라 명시적인 상한을 제공한다.

실험 결과

연구 질문

• RQ1 비정확 뉴턴 방법은 볼록 코너에 값을 갖는 비선형 포함 문제로 확장될 수 있으며, 어떤 조건 하에서 수렴하는가?
• RQ2 고전적 코니드-칸토로비치 및 스말 정리는 이 코너 제약 설정에서 비정확 뉴턴 방법으로 어떻게 일반화될 수 있는가?
• RQ3 잔차 허용 오차 θ는 계산의 비정확성과 수렴의 강건성 사이의 균형을 어떻게 담당하는가?
• RQ4 해의 존재성을 사전에 가정하지 않고, 초기 데이터와 주도 조건에 의존하여 수렴을 확보할 수 있는가?
• RQ5 수렴 영역과 수렴 속도는 주도 함수와 매개변수 θ에 어떻게 의존하는가?

주요 결과

• 비정확 뉴턴 방법은 애फ인 불변 주도 조건과 잔차 허용 오차 θ < 1 하에서 잘 정의되고 F(x) ∈ C 의 해로 수렴한다.
• 수렴 영역은 B(x_0, λ) 안에 포함되며, 여기서 λ = b / (√(γb) + γb), b = ‖T_{x_0}^{-1}[-F(x_0)]‖.
• 주도 조건 하에서 수열은 ‖T_{x_0}^{-1}[-F(x_k)]‖ ≤ [(1+θ²)/2]^k b 를 만족하여 해로의 수렴을 보장한다.
• θ = 0 이고 C = {0} 이면, 결과는 문헌에서 알려진 정리들로 축소된다: 정확한 방법에 대해 [13, 정리 18]과, 비정확한 방법에 대해 [16, 정리 6.3].
• 스말 조건 하에서, 방법은 Q-선형 수렴 속도를 가지며, 이 속도의 상한은 (1+θ)/(1−θ) [ (1+θ)/2 + 2θ/(1−2√(γb)−γb) ] 이며, θ가 충분히 작을 경우 성립한다.
• 분석은 강건하고 반국소적이다: 해의 존재성을 사전에 가정하지 않고, 초기 데이터와 주도 함수에 의존하여 해의 존재성과 수렴성을 증명한다.