[论文解读] Least-squares Solutions of Linear Differential Equations

Daniele Mortari|arXiv (Cornell University)|Feb 25, 2017

Differential Equations and Numerical Methods参考文献 6被引用 11

一句话总结

本文提出了一种最小二乘法，通过将约束嵌入涉及未知函数 g(t) 的约束表达式中，求解具有非恒定系数的非齐次线性微分方程。该方法利用切比雪夫多项式近似未知函数 g(t)，在初值问题中相比 MATLAB 的 ODE45 实现了五个数量级的更高精度，并通过残差和条件数分析，有效区分了边值问题中无解、唯一解和无穷多解的情况。

ABSTRACT

This study shows how to obtain least-squares solutions to initial and boundary value problems to nonhomogeneous linear differential equations with nonconstant coefficients of any order. However, without loss of generality, the approach has been applied to second order differential equations. The proposed method has two steps. The first step consists of writing a constrained expression, introduced in Ref. \cite{Mortari}, that has embedded the differential equation constraints. These expressions are given in term of a new unknown function, $g (t)$, and they satisfy the constraints, no matter what $g (t)$ is. The second step consists of expressing $g (t)$ as a linear combination of $m$ independent known basis functions, $g (t) = \mathbfξ^T \mathbf{h} (t)$. Specifically, Chebyshev orthogonal polynomials of the first kind are adopted for the basis functions. This choice requires rewriting the differential equation and the constraints in term of a new independent variable, $x\in[-1, +1]$. The procedure leads to a set of linear equations in terms of the unknown coefficients vector, $\mathbfξ,$ that is then computed by least-squares. Numerical examples are provided to quantify the solutions accuracy for initial and boundary values problems as well as for a control-type problem, where the state is defined in one point and the costate in another point.

研究动机与目标

• 开发一种非迭代的最小二乘方法，用于求解具有非恒定系数以及任意初始或边界约束的线性微分方程。
• 解决当闭式解不可用时，非齐次线性常微分方程缺乏通用解法的问题。
• 提供一个统一的框架，通过相同的约束表达式形式同时处理初值问题和边值问题。
• 通过分析残差和条件数，实现对已知解、未知解、无解或无穷多解问题的精确求解。
• 为未来扩展至非线性方程、偏微分方程以及最优基选择奠定基础。

提出的方法

• 该方法使用一种约束表达式，通过特殊函数 βi(t, t̲) 将微分方程和边界/初始条件直接嵌入其中，从而确保其自动满足。
• 未知解 y(t) 表示为 y(t) = g(t) + Σβi(t, t̲)(y_t̲i^(d̲i) - g_t̲i^(d̲i))，其中 g(t) 是待近似的自由函数。
• 函数 g(t) 展开为 g(t) = ξᵀh(t)，其中 h(t) 是前 m 个第一类切比雪夫多项式的正交向量。
• 将微分方程用 g(t) 重写，并在 N 个点上进行配点，形成关于 ξ 的线性系统。
• 通过在配点上最小化残差，利用最小二乘法求解系数向量 ξ。
• 该方法在不损失一般性的前提下应用于二阶方程，但其框架可推广至任意阶次。

实验结果

研究问题

• RQ1 能否为具有非恒定系数和任意约束的线性微分方程开发一种非迭代的最小二乘方法？
• RQ2 如何将约束直接嵌入解的形式中，以确保无论未知函数如何，约束条件均被满足？
• RQ3 切比雪夫多项式能否提供一种稳定且精确的基，用于近似此类方程的解？
• RQ4 该方法在边值问题中区分唯一解、无解或无穷多解方面表现如何？
• RQ5 与标准的 ODE 求解器（如 ODE45）相比，最小二乘解的精度和条件数行为如何？

主要发现

• 对于具有已知解的初值问题，该最小二乘法相比 MATLAB 的 ODE45 实现了五个数量级的更高精度。
• 最小二乘系统中残差的均值和条件数可可靠地区分边值问题中无解与无穷多解的情况。
• 解误差在整个积分区间内近似均匀分布，与传统方法中误差随时间累积的现象不同。
• 该方法同样适用于初值问题和边值问题，提供统一的解法框架。
• 该方法是非迭代的，且无需求解基本解，因此适用于闭式解不可用的方程。
• 该方法在扩展至非线性方程、偏微分方程以及加权最小二乘公式方面展现出潜力，尽管这些仍属于开放研究领域。