[논문 리뷰] Learning for Constrained Optimization: Identifying Optimal Active Constraint Sets

Sidhant Misra, Line Roald외 1명|arXiv (Cornell University)|2018. 02. 26.

Reservoir Engineering and Simulation Methods인용 수 15

한 줄 요약

이 논문은 실시간에서 큰 규모의 최적화 프로그램을 풀지 않고도 빠르고 제약 조건을 준수하는 최적 해를 예측할 수 있도록, 매개변수 최적화 문제에서 최적의 활성 제약 집합을 학습하는 스트리밍 알고리즘을 제안한다. 이 방법은 해를 복구하기 위한 최소 정보인 활성 집합을 통한 알려진 문제 구조를 활용하며, 발견된 집합 수가 적어도 높은 정확도를 달성한다. 이는 전력망 최적 전력 흐름 문제에서 낮은 실패율로 검증되었다.

ABSTRACT

In many engineered systems, optimization is used for decision making at time-scales ranging from real-time operation to long-term planning. This process often involves solving similar optimization problems over and over again with slightly modified input parameters, often under tight latency requirements. We consider the problem of using the information available through this repeated solution process to directly learn a model of the optimal solution as a function of the input parameters, thus reducing the need to solve computationally expensive large-scale parametric programs in real time. Our proposed method is based on learning relevant sets of active constraints, from which the optimal solution can be obtained efficiently. Using active sets as features preserves information about the physics of the system, enables interpretable models, accounts for relevant safety constraints, and is easy to represent and encode. However, the total number of active sets is also very large, as it grows exponentially with system size. The key contribution of this paper is a streaming algorithm that learns the relevant active sets from training samples consisting of the input parameters and the corresponding optimal solution, without any assumptions on the problem structure. The algorithm comes with theoretical performance guarantees, and is known to converge fast for problem instances with a small number of relevant active sets. It can thus be used to establish the practicability of the learning method. Through extensive experiments on the Optimal Power Flow problem, we observe that often only a few active sets are relevant in practice, suggesting that the active sets is the appropriate level of abstraction for a learning algorithm to target.

연구 동기 및 목표

• 공학 시스템에서 엄격한 지연 제약 조건 하에서 실시간으로 대규모 매개변수 최적화 문제를 해결하는 데 도전하는 데 목적을 두며.
• 입력에서 해로의 직접적인 매핑을 학습하는 대신 활성 집합을 중간 추상화로 사용하여 기계학습 기반 최적화의 안전성과 제약 조건 준수를 향상시키는 데 목적을 두며.
• 문제 구조에 대한 가정 없이 훈련 데이터에서 관련 활성 집합을 식별하는 스트리밍 알고리즘을 개발하여, 이론적 수렴 보장과 소수의 집합이 관련이 있을 경우의 빠른 발견을 확보하는 데 목적을 두며.
• 특히 최적 전력 흐름 문제에 대해 실세계 전력 시스템 최적화 벤치마크에서 방법의 실용성과 성능을 검증하는 데 목적을 두며.
• 실제로는 일반적으로 소수의 활성 집합만 관련이 있음을 입증하여, 활성 집합이 기계학습 기반 최적화를 위한 효과적인 추상화임을 정당화하는 데 목적을 두며.

제안 방법

• 이 방법은 문제의 구조에 대한 사전 가정 없이 입력 매개변수와 해당 최적 해에서 관련 활성 집합을 스트리밍 알고리즘으로 발견한다.
• 학습 과제를 활성 집합에 대한 분류 문제로 재정의하며, 정확한 모델 지식을 통해 물리적 제약과 안전성 제약을 유지한다.
• 이론적 보장을 확보하기 위해, 정지 기준은 발견되지 않은 활성 집합의 질량에 기반하며, 정리 1에서 유도된 보편 상한을 사용한다.
• 예측에 앙상블 정책을 사용한다: 발견된 모든 활성 집합에서 최적 해를 계산하고, 그들 사이에서 타당성이 검증된다.
• 약한 조건 하에서 이론적 수렴이 보장되며, 소수의 활성 집합만 관련이 있을 경우 성능이 크게 향상된다.
• 신경망을 통한 제약 조건 근사 방식을 피하고, 제약 조건 준수를 보장하기 위해 정확한 활성 집합 식별에 의존한다.

실험 결과

연구 질문

• RQ1 활성 집합은 매개변수 최적화 문제에서 최적 해를 학습하는 데 있어 효과적이고 해석 가능한 추상화로 기능할 수 있는가?
• RQ2 특히 관련 집합의 수가 적을 경우, 스트리밍 알고리즘이 실시간 최적화 데이터에서 관련 활성 집합을 얼마나 효율적으로 발견할 수 있는가?
• RQ3 입력 매개변수 분포(예: 균일 분포 대비 정규 분포)는 활성 집합을 발견하기 위해 필요한 표본 수에 어떤 영향을 미치는가?
• RQ4 기계학습 기반 방법이 전체 최적화에 비해 제약 조건 타당성을 얼마나 잘 유지하는가?
• RQ5 IEEE RTS 사례와 같은 복잡한 실세계 전력 시스템 벤치마크에서 알고리즘이 어떻게 성능을 발휘하는가?

주요 결과

• 실제로 대부분의 시스템 인스턴스에서 관련이 있는 활성 집합의 수가 매우 적어, 활성 집합이 기계학습 기반 최적화를 위한 적절한 추상화임을 시사한다.
• 관련 활성 집합의 수가 적을 경우 알고리즘이 빠르게 수렴하며, 성능 저하는 주로 낮은 확률의 집합 때문이지 높은 카디널리티 때문은 아니다.
• case240_pserc 및 case73_ieee_rts와 같은 시스템에서는 네트워크 축소나 높은 발전기 대 노드 비율 등의 이례적인 시스템 특성으로 인해 22,000개 표본 이내에 종료되지 않는다.
• 기계학습 기반 방법의 실패 확률은 발견되지 않은 집합 질량의 입력 상한(α)보다 항상 낮게 유지되며, 이는 정리 1의 이론적 보장을 검증한다.
• 균일 분포는 집합 간 확률 밀도 분포가 평탄하기 때문에 정규 분포보다 더 많은 활성 집합을 발견하고 더 높은 표본 수를 요구한다.
• 앙상블 정책은 높은 타당성을 보장하며, 발견되지 않은 질량의 이론적 상한 이하의 실패율을 유지하여 강건성과 안전성을 확인한다.