[论文解读] Absence of spurious local trajectories in time-varying optimization

Salar Fattahi, Cédric Josz+3 more|arXiv (Cornell University)|May 23, 2019

Probabilistic and Robust Engineering Design参考文献 38被引用 8

一句话总结

本文引入了时变优化中的虚假局部轨迹概念，将静态非凸问题中的虚假局部解推广至时变场景。研究结果表明，即使在每个时间点均存在虚假局部解，若关联的常微分方程（ODE）稳定，则时变景观仍可能不存在虚假局部轨迹。关键发现指出，时变 ODE 可避免在局部极小值处形成稳定平衡点，而这是时不变情形下所不具备的特性。

ABSTRACT

In this paper, we study the landscape of optimization problems where the input data vary over time. To this end, we introduce the notion of spurious local trajectory as a generalization to the notion of spurious local solution in nonconvex (time-invariant) optimization. As a motivating case study, we consider the problem of optimal power flow in electrical networks with real-world and time-varying input data. We show that, despite the existence of spurious local solutions at every time, the time-varying landscape of the problem is free of spurious local trajectories. Inspired by this example, we propose an ordinary differential equation (ODE) which, at limit, characterizes the spurious local solutions of the time-varying optimization problem. By building upon this connection, we show that the absence of spurious local trajectory is closely related to the stability of the proposed ODE. In particular, we show that: (1) if the problem is time-invariant, the spurious local trajectories are ubiquitous since any strict local minimum is a locally stable equilibrium point of the ODE, and (2) if the ODE is time-varying, the local minima of the optimization problem may neither be equilibrium nor stable for the proposed ODE. To illustrate the applicability of the developed results, we consider a class of univariate problems with spurious local minima and provide sufficient conditions under which they are free of spurious local trajectories.

研究动机与目标

• 通过引入虚假局部轨迹，将虚假局部解的概念推广至时变优化问题。
• 分析时变优化问题的景观特性，特别关注使用真实世界时变数据的动态最优电力分配问题。
• 建立在每个时间点均存在虚假局部解的前提下，虚假局部轨迹仍可被消除的条件。
• 将虚假局部轨迹的缺失与关联常微分方程（ODE）的稳定性特性联系起来。

提出的方法

• 提出虚假局部轨迹的概念，作为非凸优化中虚假局部解在时变场景下的推广。
• 提出一个常微分方程（ODE），其平衡点对应于时变优化问题的虚假局部解。
• 分析 ODE 平衡点的稳定性，以判断时变景观中是否存在虚假局部轨迹。
• 证明在时不变问题中，每个严格局部极小值都是 ODE 的局部稳定平衡点，意味着虚假局部轨迹普遍存在。
• 展示在时变问题中，局部极小值可能并非 ODE 的平衡点，也非稳定，从而使得虚假局部轨迹的避免成为可能。
• 针对具有虚假局部极小值的单变量时变优化问题，基于 ODE 稳定性，推导出虚假局部轨迹可被消除的充分条件。

实验结果

研究问题

• RQ1 在每个时间点均存在虚假局部解的前提下，时变优化问题在何种条件下可避免虚假局部轨迹？
• RQ2 关联常微分方程（ODE）的稳定性如何影响时变优化中虚假局部轨迹的缺失？
• RQ3 为何虚假局部轨迹在时不变问题中普遍存在？这与时变场景有何不同？
• RQ4 具有虚假局部极小值的单变量时变问题能否避免虚假局部轨迹？若能，其条件是什么？
• RQ5 ODE 的平衡点结构在决定动态优化景观中是否存在虚假局部轨迹方面起什么作用？

主要发现

• 若关联 ODE 稳定，则即使在每个时间点均存在虚假局部解，时变优化中仍可避免虚假局部轨迹。
• 在时不变问题中，每个严格局部极小值都是 ODE 的局部稳定平衡点，导致虚假局部轨迹普遍存在。
• 在时变问题中，局部极小值可能既非 ODE 的平衡点，也非稳定，从而为避免虚假局部轨迹提供了可能。
• 对于一类具有虚假局部极小值的单变量时变问题，推导出在特定条件下问题可避免虚假局部轨迹的充分条件。
• ODE 的稳定性是判断虚假局部轨迹是否存在与否的关键因素，为景观分析提供了动态判据。
• 所提出的 ODE 框架可实现对静态非凸性之外的动态优化景观的系统性分析。