[논문 리뷰] DC3: A learning method for optimization with hard constraints

Priya L. Donti, David Rolnick외 1명|arXiv (Cornell University)|2021. 04. 25.

Constraint Satisfaction and Optimization참고 문헌 29인용 수 64

한 줄 요약

DC3는 부분 해를 완성하고 미분가능한 보정을 적용하여 hard 등식 및 부등식 제약을 만족시키도록 학습하며, AC 최적 전력 흐름 작업(ACOPF)을 포함하여 전통적 해법보다 빠르게 가능하고 근사 최적에 가까운 해를 달성한다.

ABSTRACT

Large optimization problems with hard constraints arise in many settings, yet classical solvers are often prohibitively slow, motivating the use of deep networks as cheap "approximate solvers." Unfortunately, naive deep learning approaches typically cannot enforce the hard constraints of such problems, leading to infeasible solutions. In this work, we present Deep Constraint Completion and Correction (DC3), an algorithm to address this challenge. Specifically, this method enforces feasibility via a differentiable procedure, which implicitly completes partial solutions to satisfy equality constraints and unrolls gradient-based corrections to satisfy inequality constraints. We demonstrate the effectiveness of DC3 in both synthetic optimization tasks and the real-world setting of AC optimal power flow, where hard constraints encode the physics of the electrical grid. In both cases, DC3 achieves near-optimal objective values while preserving feasibility.

연구 동기 및 목표

• 클래식 해법이 느린 큰 제약 조건이 있는 최적화 문제에 대해 빠른 근사치를 제시하도록 동기를 부여한다.
• 등식 제약에 대해 등식 완성을 통해 해가능성을 보장하는 신경망 기반 프레임워크를 개발한다.
• 등식 가능성을 유지하면서 부등식 제약을 강제하기 위한 differentiable한 부등식 보정 단계를 도입한다.
• DC3를 볼록 QP, 간단한 비볼록 문제, 그리고 AC 최적 전력 흐름(ACOPF)에서 시연한다.
• DC3가 해가능하고 근사 최적의 목적값을 제공하며 벤치마크 대비 상당한 속도 향상을 가져오는지 보여준다.

제안 방법

• 등식 제약을 만족하도록 부분 의사결정 변수 집합을 ϕx를 통해 완성시키고, 명시적 기울기가 없을 때 암묵적 미분을 사용해 ϕx를 역전파한다.
• 등식 가능 매니폴드 위에 남아 있으면서 부등식 위반을 줄이기 위해 미분가능한 그래디언트 기반 보정 ρx를 적용한다.
• 네트워크를 목표값과 제약 위반을 포함하는 소프트 손실 ℓsoft(ŷ)=fx(ŷ)+λg||ReLU(gx(ŷ))||22+λh||hx(ŷ)||22로 학습한다.
• 테스트 시 부분 출력을 등식들을 만족하는 전체 벡터로 완성한 후 보정을 적용해 불평등 제약을 만족시킨다.
• 완성과 보정 모두를 미분 가능하게 유지해 제약 강제 단계를 통해 엔드-투-엔드 역전파가 가능하도록 한다.

실험 결과

연구 질문

• RQ1 신경망이 등식 제약을 만족하도록 완료될 수 있는 부분 해를 예측하도록 학습할 수 있는가?
• RQ2 differentiable한 보정 절차가 등식 가능성을 보존하면서 부등식 가능성을 보장할 수 있는가?
• RQ3 DC3가 볼록하고 단순한 비볼록 문제 및 현실 세계의 비볼록 문제(ACOPF) 설정에서 최적성 및 가능성 측면에서 어떤 성능을 보이는가?
• RQ4 DC3가 속도 및 가능성 측면에서 전통적 최적화기 및 다른 딥러닝 기반 방법과 어떻게 비교되는가?

주요 결과

방법	객관값	최대 등식제약	평균 등식제약	최대 부등식제약	평균 부등식제약	소요 시간 (초)
Optimizer (OSQP)	-15.05	0.00	0.00	0.00	0.00	0.002 (0.000)
Optimizer (qpth)	-15.05	0.00	0.00	0.00	0.00	1.335 (0.012)
DC3	-13.46	0.00	0.00	0.00	0.00	0.017 (0.001)
DC3, ≠	-12.58	0.35	0.13	0.00	0.00	0.008 (0.000)
DC3, ⩽ train	-1.39	0.00	0.00	0.02	0.00	0.017 (0.000)
DC3, ⩽ train/test	-1.23	0.00	0.00	0.09	0.13	0.001 (0.000)
DC3, no soft loss	-21.84	0.00	0.00	23.83	4.04	0.017 (0.000)
NN	-12.57	0.35	0.13	0.00	0.00	0.001 (0.000)
NN, ⩽ test	-12.57	0.35	0.13	0.00	0.00	0.009 (0.000)
Eq. NN	-9.16	0.00	0.00	8.83	0.91	0.001 (0.000)
Eq. NN, ⩽ test	-14.68	0.00	0.00	0.89	0.07	0.018 (0.001)

• DC3는 볼록 QP, 단순한 비볼록 작업, 그리고 ACOPF 전반에서 등식 및 부등식 제약의 가능성을 유지하며 거의 최적에 가까운 목적값을 달성한다.
• DC3는 미분가능 QP 해법(qpth)보다 약 78배 빠르고 볼록 QP 설정에서 최적화된 OSQP보다 약 9배 느리다; 비볼록 작업에서 DC3는 IPOPT보다 약 9–10배 빠르고 경쟁력 있는 목적값을 보인다.
• ACOPF에서 DC3는 가능하고 거의 최적의 결과를 산출하며 PYPOWER 최적화기보다 약 10배 빠르게 실행된다.
• 절단 실험은 등식 완성 또는 부등식 보정 중 어느 하나를 제거하면 제약 위반이 생기므로 두 구성요소의 필요성을 강조한다.