[논문 리뷰] Absence of spurious local trajectories in time-varying optimization

Salar Fattahi, Cédric Josz외 3명|arXiv (Cornell University)|2019. 05. 23.

Probabilistic and Robust Engineering Design참고 문헌 38인용 수 8

한 줄 요약

이 논문은 시간에 따라 변화하는 최적화 문제에서 유사 국소 궤적의 개념을 도입하여, 정적 비볼록 문제에서의 유사 국소 해를 일반화한다. 유사 국소 해가 각 시점에서 존재하더라도, 관련된 상미분방정식(OED)이 안정적이라면 시간에 따라 변화하는 경관은 여전히 유사 국소 궤적이 없을 수 있음을 입증한다. 주요 결과로는 시간에 따라 변화하는 ODE가 국소 최소값에서 안정한 평형점을 피할 수 있다는 점이며, 이는 시간 불변의 경우와는 다름을 보여준다.

ABSTRACT

In this paper, we study the landscape of optimization problems where the input data vary over time. To this end, we introduce the notion of spurious local trajectory as a generalization to the notion of spurious local solution in nonconvex (time-invariant) optimization. As a motivating case study, we consider the problem of optimal power flow in electrical networks with real-world and time-varying input data. We show that, despite the existence of spurious local solutions at every time, the time-varying landscape of the problem is free of spurious local trajectories. Inspired by this example, we propose an ordinary differential equation (ODE) which, at limit, characterizes the spurious local solutions of the time-varying optimization problem. By building upon this connection, we show that the absence of spurious local trajectory is closely related to the stability of the proposed ODE. In particular, we show that: (1) if the problem is time-invariant, the spurious local trajectories are ubiquitous since any strict local minimum is a locally stable equilibrium point of the ODE, and (2) if the ODE is time-varying, the local minima of the optimization problem may neither be equilibrium nor stable for the proposed ODE. To illustrate the applicability of the developed results, we consider a class of univariate problems with spurious local minima and provide sufficient conditions under which they are free of spurious local trajectories.

연구 동기 및 목표

• 비볼록 최적화에서의 유사 국소 해 개념을 시간에 따라 변화하는 최적화로 일반화하기 위해 유사 국소 궤적의 개념을 도입한다.
• 실제 시간에 따라 변화하는 데이터를 활용한 동적 최적 전력 흐름과 같은 시간에 따라 변화하는 최적화 문제의 경관을 분석한다.
• 각 시점에서 유사 국소 해가 존재하더라도, 그에 비해 유사 국소 궤적이 존재하지 않는 조건을 설정한다.
• 유사 국소 궤적이 존재하지 않음을, 관련된 상미분방정식(OED)의 안정성 특성과 연결한다.

제안 방법

• 비볼록 최적화에서의 유사 국소 해의 시간에 따라 변화하는 일반화로서 유사 국소 궤적의 개념을 도입한다.
• 시간에 따라 변화하는 최적화 문제의 유사 국소 해에 해당하는 평형점을 갖는 상미분방정식(OED)을 제안한다.
• OED의 평형점의 안정성을 분석하여 시간에 따라 변화하는 경관에서 유사 국소 궤적이 존재하는지 여부를 판단한다.
• 시간 불변 문제에서는 모든 엄격한 국소 최소값이 OED의 국소 안정 평형점이 되며, 이는 유사 국소 궤적이 널리 퍼져 있음을 의미한다.
• 시간에 따라 변화하는 문제에서는 국소 최소값이 OED의 평형점이 되지도 않으며 안정성도 확보되지 않을 수 있어, 유사 국소 궤적이 존재하지 않을 수 있음을 보여준다.
• 유사 국소 최소값이 존재하는 단변량 시간에 따라 변화하는 최적화 문제에서, OED의 안정성에 기반해 유사 국소 궤적이 존재하지 않는 충분한 조건을 도출한다.

실험 결과

연구 질문

• RQ1 시간에 따라 변화하는 최적화 문제에서 각 시점에서 유사 국소 해가 존재하더라도, 유사 국소 궤적이 존재하지 않는 조건은 무엇인가?
• RQ2 관련된 상미분방정식(OED)의 안정성은 시간에 따라 변화하는 최적화에서 유사 국소 궤적이 존재하지 않는 것과 어떻게 관련이 있는가?
• RQ3 왜 시간 불변 문제에서는 유사 국소 궤적이 널리 퍼져 있으며, 이는 시간에 따라 변화하는 설정과 어떻게 다를까?
• RQ4 유사 국소 최소값이 존재하는 단변량 시간에 따라 변화하는 문제에서, 유사 국소 궤지를 피할 수 있을까? 만약 가능하면 어떤 조건에서 가능한가?
• RQ5 OED의 평형점의 구조는 동적 최적화 경관에서 유사 국소 궤적이 존재하는지 여부를 결정하는 데 어떤 역할을 하는가?

주요 결과

• 관련된 OED가 안정적이라면, 시간에 따라 변화하는 최적화 문제에서 유사 국소 궤적이 존재하지 않는다. 이는 각 시점에서 유사 국소 해가 존재하더라도 마찬가지다.
• 시간 불변 문제에서는 모든 엄격한 국소 최소값이 OED의 국소 안정 평형점이 되며, 이는 유사 국소 궤적이 널리 퍼져 있음을 의미한다.
• 시간에 따라 변화하는 문제에서는 국소 최소값이 OED의 평형점이 되지도 않으며 안정성도 확보되지 않을 수 있어, 유사 국소 궤적이 존재하지 않을 수 있음을 보여준다.
• 유사 국소 최소값이 존재하는 단변량 시간에 따라 변화하는 문제의 일정한 클래스에 대해, OED의 안정성에 기반한 충분한 조건을 도출하여 문제에서 유사 국소 궤적이 존재하지 않음을 보였다.
• OED의 안정성은 유사 국소 궤적이 존재하는지 여부를 결정하는 핵심 요소이며, 이는 경관 분석을 위한 동적 기준을 제공한다.
• 제안된 OED 프레임워크는 정적 비볼록성 이상의 동적 최적화 경관 분석을 체계적으로 가능하게 한다.