[论文解读] Gradient Descent Learns Linear Dynamical Systems

Moritz Hardt, Tengyu Ma+1 more|arXiv (Cornell University)|Jan 1, 2018

Machine Learning and Algorithms被引用 115

一句话总结

该论文表明，随机梯度下降（SGD）能够高效收敛到从噪声观测中识别未知线性时不变动力系统时最大似然目标函数的全局最优解。尽管目标函数是非凸的，作者在自然假设下建立了多项式时间复杂度和样本复杂度，为该问题提供了首个此类保证。

ABSTRACT

We prove that stochastic gradient descent efficiently converges to the global optimizer of the maximum likelihood objective of an unknown linear time-invariant dynamical system from a sequence of noisy observations generated by the system. Even though the objective function is non-convex, we provide polynomial running time and sample complexity bounds under strong but natural assumptions. Linear systems identification has been studied for many decades, yet, to the best of our knowledge, these are the first polynomial guarantees for the problem we consider.

研究动机与目标

• 为从噪声观测中识别线性时不变动态系统时的随机梯度下降提供多项式时间收敛保证。
• 通过在强但自然的假设下证明全局收敛，解决系统识别中长期存在的非凸性挑战。
• 首次为线性系统识别中的最大似然估计提供多项式运行时间与样本复杂度边界。
• 弥合系统识别中实际优化启发式方法与理论保证之间的差距。

提出的方法

• 将随机梯度下降应用于具有噪声观测的线性动态系统的最大似然目标函数。
• 该方法假设系统为线性、时不变，且观测值来自真实状态轨迹的噪声版本。
• 分析利用了可观测性和可控制性等强假设，以确保可识别性与优化景观的稳定性。
• 通过浓度不等式与系统矩阵的谱性质，推导出运行时间与样本复杂度的多项式边界。
• 尽管似然函数具有非凸性，仍证明优化路径收敛至全局最小值点。

实验结果

研究问题

• RQ1 随机梯度下降能否在最大似然估计中实现线性动态系统识别的全局收敛？
• RQ2 在该非凸设置下，SGD 的样本复杂度与时间复杂度边界是什么？
• RQ3 在何种假设下，似然函数可实现多项式时间收敛至全局最优解？
• RQ4 是否可能为非凸目标函数的系统识别中的 SGD 提供理论保证？

主要发现

• 随机梯度下降收敛至线性时不变系统最大似然目标函数的全局最优解。
• 在可观测性与可控制性等自然假设下，收敛时间与样本复杂度被保证为多项式级别。
• 这是文献中首次为该问题建立多项式运行时间与样本复杂度边界的工作。
• 尽管最大似然目标函数具有非凸性，该结果依然成立。