[논문 리뷰] Learning for Convex Optimization

Sidhant Misra, Line Roald외 1명|arXiv (Cornell University)|2018. 02. 26.

Machine Learning and Algorithms인용 수 8

한 줄 요약

이 논문은 이론적으로 뒷받침되는 스트리밍 알고리즘을 활용하여 활성 제약 집합을 통해 최적 해를 직접 예측하는 학습 기반 접근법을 제안한다. 이는 볼록 최적화를 가속화하는 데 기여한다. 최적 전력 흐름 벤치마크에서의 실험 결과, 일반적으로 관련이 있는 활성 제약 집합의 수가 몇 개에 불과함을 확인하였으며, 이는 실시간 의사결정 시스템에 대해 확장 가능하고 해석 가능한 추상화 방법임을 시사한다.

ABSTRACT

In many engineered systems, optimization is used for decision making at time-scales ranging from real-time operation to long-term planning. This process often involves solving similar optimization problems over and over again with slightly modified input parameters, often under stringent time requirements. We consider the problem of using the information available through this solution process to directly learn the optimal solution as a function of the input parameters, thus reducing the need of solving computationally expensive large-scale parametric programs in real time. Our proposed method is based on learning relevant sets of active constraints, from which the optimal solution can be obtained efficiently. Using active sets as features preserves information about the physics of the system, enables more interpretable learning policies, and inherently accounts for relevant safety constraints. Further, the number of relevant active sets is finite, which make them simpler objects to learn. To learn the relevant active sets, we propose a streaming algorithm backed up by theoretical results. Through extensive experiments on benchmarks of the Optimal Power Flow problem, we observe that often only a few active sets are relevant in practice, suggesting that this is the appropriate level of abstraction for a learning algorithm to target.

연구 동기 및 목표

• 반복되는 문제 인스턴스로부터 최적 해를 직접 학습하여 실시간 최적화에서 계산 오버헤드를 줄이는 것.
• 시스템 물리 법칙과 안전 제약 조건을 유지하는, 압축된 해석 가능한 추상화인 활성 제약 집합을 식별하는 것.
• 유의미한 활성 제약 집합을 효율적으로 식별하고 일반화할 수 있는 스트리밍 학습 알고리즘을 개발하는 것.
• 실제로는 오직 소수의 활성 제약 집합만이 필요한 것으로 확인되어, 효율적인 학습이 가능함을 검증하는 것.

제안 방법

• 해당 방법은 관련이 있는 활성 제약 집합을 식별하여 입력 매개변수에 대한 최적 해를 함수로 학습한다.
• 순차적인 최적화 해에서 유의미한 활성 제약 집합을 점진적으로 학습하기 위해 스트리밍 알고리즘을 사용한다.
• 활성 제약 집합은 문제의 구조에 내재된 물리적 및 안전 제약 조건을 유지하는 특징으로 사용된다.
• 이론적 보장은 스트리밍 학습 과정의 수렴성과 정확성을 뒷받침한다.
• 입력을 직접 활성 제약 집합으로 매핑하여 대규모 파arametric 프로그램을 반복적으로 풀 필요를 피한다.
• 확장성과 정확도를 평가하기 위해 벤치마크 최적 전력 흐름 문제에서 방법을 평가한다.

실험 결과

연구 질문

• RQ1 활성 제약 집합은 볼록 최적화에서 최적 해를 학습하는 데 있어 효과적이고 해석 가능한 추상화로 기능할 수 있는가?
• RQ2 실제로 실생활 최적화 문제에서 일반적으로 관련이 있는 활성 제약 집합의 수는 얼마나 되는가?
• RQ3 스트리밍 학습 알고리즘이 순차적 해에서 유의미한 활성 제약 집합을 효과적으로 식별하고 일반화할 수 있는가?
• RQ4 시간 제약 조건이 있는 실시간 응용 프로그램에서 활성 제약 집합을 통한 학습이 기존 최적화 방법을 능가하는가?

주요 결과

• 최적 전력 흐름과 같은 복잡한 문제조차도 실질적으로 관련이 있는 활성 제약 집합의 수가 매우 적은 편임을 확인하였다.
• 활성 제약 집합을 특징으로 사용함으로써 물리적 시스템 제약 조건이 유지되고 학습된 정책의 해석 가능성도 향상되었다.
• 제안된 스트리밍 알고리즘은 이론적 보장 하에 관련 활성 제약 집합을 성공적으로 식별하였다.
• 이 방법은 실시간에서 계산 비용이 큰 파arametric 프로그램을 다시 풀 필요를 크게 줄였다.