[论文解读] Conditions for Convergence of Dynamic Regressor Extension and Mixing Parameter Estimator Using LTI Filters

Bowen Yi, Roméo Ortega|arXiv (Cornell University)|Jul 30, 2020

Control Systems and Identification参考文献 23被引用 6

一句话总结

该论文在使用线性时不变（LTI）滤波器生成扩展回归量时，建立了动态回归器扩展与混合（DREM）参数估计算法的收敛条件。证明了原始回归量的持久激励（PE）可保证DREM标量回归量的PE，从而确保指数收敛；而区间激励（IE）也保持了IE特性，使得DREM在有限时间内收敛——所有结果均以几乎必然意义证明。

ABSTRACT

In this note we study the conditions for convergence of recently introduced dynamic regressor extension and mixing (DREM) parameter estimator when the extended regressor is generated using LTI filters. In particular, we are interested in relating these conditions with the ones required for convergence of the classical gradient (or least squares), namely the well-known persistent excitation (PE) requirement on the original regressor vector, $ϕ(t) \in \mathbb{R}^q$, with $q \in \mathbb{N}$ the number of unknown parameters. Moreover, we study the case when only interval excitation (IE) is available, under which DREM, concurrent and composite learning schemes ensure global convergence, being the convergence for DREM in finite time. Regarding PE we prove that, under some mild technical assumptions, if $ϕ(t)$ is PE then the scalar regressor of DREM, $Δ(t) \in \mathbb{R}$, is also PE, ensuring exponential convergence. Concerning IE we prove that if $ϕ(t)$ is IE then $Δ(t)$ is also IE. All these results are established in the almost sure sense, namely proving that the set of filter parameters for which the claims do not hold is of zero measure. The main technical tool used in our proof is inspired by a study of Luenberger observers for nonautonomous nonlinear systems recently reported in the literature.

研究动机与目标

• 建立当通过LTI滤波器生成扩展回归量时，DREM参数估计算法的收敛条件。
• 将DREM的收敛特性与梯度法和最小二乘法所需经典持久激励（PE）条件联系起来。
• 分析仅存在区间激励（IE）的情形，确定DREM是否能保证全局收敛。
• 证明在温和技术假设下，DREM中的标量回归量可继承原始回归量的PE或IE特性。
• 在几乎必然意义下建立收敛结果，表明导致收敛失败的滤波器参数集合测度为零。

提出的方法

• 将DREM估计算法重新表述为非自治非线性系统的Luenberger观测器，利用近期关于此类系统Luenberger观测器的研究成果。
• 对原始回归量φ(t)应用LTI滤波器以生成扩展回归量Φ(t)，滤波器数量设为q+1以保证可逆性。
• 通过矩阵Φᵀ(t)Φ(t)分析参数估计误差动态，利用所得标量回归量Δ_N(t)研究收敛性。
• 证明方法基于近期对非自治非线性系统Luenberger观测器的研究，经调整以适用于DREM的时间变系数线性误差动态。
• 通过证明导致收敛失败的滤波器参数集合的Lebesgue测度为零，建立几乎必然收敛性。
• 分析区分持久激励（PE）与区间激励（IE）情形，证明PE与IE特性在DREM标量回归量中得以保持。

实验结果

研究问题

• RQ1 在原始回归量φ(t)满足何种条件时，使用LTI滤波器的DREM估计算法可实现指数收敛？
• RQ2 若原始回归量φ(t)为持久激励（PE），DREM标量回归量Δ_N(t)是否也继承PE特性？
• RQ3 当原始回归量中仅存在区间激励（IE）时，DREM估计算法能否保证全局收敛？
• RQ4 若φ(t)为IE，则Δ_N(t)是否也为区间可激励，且是否导致DREM中参数误差的有限时间收敛？
• RQ5 收敛声明失效的滤波器参数值集合的测度是多少，以及如何建立该结论？

主要发现

• 若原始回归量φ(t)为持久激励（PE），则在温和技术假设下，DREM标量回归量Δ_N(t)也具备PE特性，从而确保参数估计的指数收敛。
• 在几乎必然意义下证明了PE条件下DREM估计算法的收敛性，即导致收敛失败的滤波器参数集合的Lebesgue测度为零。
• 当原始回归量φ(t)满足区间激励（IE）时，DREM标量回归量Δ_N(t)也满足IE，从而实现参数估计的全局收敛。
• 在IE条件下，DREM估计算法实现参数误差的有限时间收敛，显著优于经典估计算法。
• 通过将近期关于非自治非线性系统Luenberger观测器的框架适配，将结果推广至非自治系统。
• 技术证明依赖于观测器理论在时变线性系统中的创新应用，证明了DREM估计算法在更弱激励条件下的鲁棒性。