[论文解读] Solving underdetermined nonlinear equations by Newton-like method

B. T. Polyak, Andrey Tremba|arXiv (Cornell University)|Mar 22, 2017

Iterative Methods for Nonlinear Equations被引用 5

一句话总结

本文将牛顿类方法扩展至求解方程数（m）少于变量数（n）的欠定非线性方程组。建立了收敛性定理，提供了可解性条件，并分析了收敛速率，将该框架应用于二次方程组、一维方程及不等式。

ABSTRACT

Newton method is one of the most powerful methods for finding solution of nonlinear equations. In its classical form it is applied for systems of $n$ equations with $n$ variables. However it can be modified for underdetermined equations (with $m<n$, $m$ being the number of equations). Theorems on solvability of such equations as well as conditions for convergence and rate of convergence of Newton-like methods are addressed in the paper. The results are applied to systems of quadratic equations, one-dimensional equations and inequalities.

研究动机与目标

• 解决方程数少于未知数的欠定非线性方程组求解问题（m < n）。
• 开发并分析适用于方程数少于未知数的牛顿类迭代方法。
• 建立此类方程组可解性的理论条件。
• 研究所提出方法的收敛性特征与收敛速率。
• 将理论框架应用于实际情形，包括二次方程组及一维方程/不等式。

提出的方法

• 通过修改更新步骤以考虑雅可比矩阵的零空间，将经典牛顿方法适配于欠定方程组。
• 采用阻尼牛顿类迭代，结合正则化或在零空间上的最小化，以确保下降性与稳定性。
• 通过利用二次方程组的代数结构，简化牛顿步长，将方法应用于二次方程组。
• 通过在欠定框架内将问题约化为可解形式，将该方法扩展至一维方程与不等式。
• 基于隐函数定理与压缩映射原理的理论分析，证明收敛性。

实验结果

研究问题

• RQ1 何种条件可确保欠定非线性方程组的可解性？
• RQ2 牛顿类方法如何修改才能在欠定设置下可靠收敛？
• RQ3 所提出的牛顿类方法在欠定方程组中的收敛速率为何？
• RQ4 理论收敛结果如何应用于二次方程组等特定类别？
• RQ5 该方法能否在欠定框架内扩展以处理一维方程与不等式？

主要发现

• 本文建立了欠定非线性方程组解存在的充分条件。
• 在适当假设下（包括约化雅可比矩阵的可逆性与海色矩阵的有界性），证明了牛顿类方法的收敛性。
• 在标准正则性条件下，该方法表现出局部超线性或二次收敛速率。
• 该框架成功应用于二次方程组，由于多项式结构的存在，牛顿步长得以简化。
• 理论结果被扩展至一维方程与不等式，证明了该方法在标准方程组之外的广泛适用性。
• 收敛性分析考虑了雅可比矩阵的零空间，确保了解路径的定义明确且稳定。