[논문 리뷰] Interior Point Solving for LP-based prediction+optimisation

Jayanta Mandi, Tias Guns|arXiv (Cornell University)|2020. 10. 26.

Advanced Optimization Algorithms Research참고 문헌 27인용 수 34

한 줄 요약

논문은 end-to-end 예측-최적화를 위한 interior-point 기반 미분 가능한 LP 레이어인 IntOpt를 소개하며, 동형 자기-쌍 대형(Homogeneous Self-Dual) LP 공식화와 로그-배리어를 통해 미분 가능성을 확보하고, MILP 관련 과제에서 최첨단 방법들과 경쟁력 있는 결과를 보여준다.

ABSTRACT

Solving optimization problems is the key to decision making in many real-life analytics applications. However, the coefficients of the optimization problems are often uncertain and dependent on external factors, such as future demand or energy or stock prices. Machine learning (ML) models, especially neural networks, are increasingly being used to estimate these coefficients in a data-driven way. Hence, end-to-end predict-and-optimize approaches, which consider how effective the predicted values are to solve the optimization problem, have received increasing attention. In case of integer linear programming problems, a popular approach to overcome their non-differentiabilty is to add a quadratic penalty term to the continuous relaxation, such that results from differentiating over quadratic programs can be used. Instead we investigate the use of the more principled logarithmic barrier term, as widely used in interior point solvers for linear programming. Specifically, instead of differentiating the KKT conditions, we consider the homogeneous self-dual formulation of the LP and we show the relation between the interior point step direction and corresponding gradients needed for learning. Finally our empirical experiments demonstrate our approach performs as good as if not better than the state-of-the-art QPTL (Quadratic Programming task loss) formulation of Wilder et al. and SPO approach of Elmachtoub and Grigas.

연구 동기 및 목표

• MILP에서 계수가 불확실하고 데이터로 예측된다는 점을 감안한 엔드투엔드 학습의 필요성 제기.
• 내부점 프레임워크 내 로그-배리어를 이용한 differentiable LP 완화를 제안.
• 작업 손실의 그래디언트를 얻기 위해 KKT 조건이 아닌 LP의 동형 자기-쌍 임베딩을 미분.
• 두 단계, QPTL, SPO 접근법에 비해 MILP 관련 문제에서 IntOpt의 경쟁력 있는 성능을 보임.

제안 방법

• 신경망 위의 최종 미분 가능 레이어로 LP를 사용하여 MILP 문제에 대한 엔드투엔드 학습 가능성 확보.
• 목적 함수를 두 배 미분 가능하게 만들기 위해 LP에 로그-배리어 항을 삽입하고 이차 패널티를 대체.
• 그래디언트를 얻기 위해 KKT 조건이 아닌 LP의 동형 자기-쌍(HSD) 임베딩을 미분.
• 순방향 내부점 패스를 사용해 LP 해를 계산하고 후방 패스에서 ∂x*/∂c를 계산해 역전파에 활용.
• 수치적 안정성을 위해 조기 중단(lambda-cutoff) 및 선형 시스템 풀이의 감쇠를 도입.
• 필요 시 감쇠된 시스템을 사용한 예측-후방 스킴(Eq. 9-12)을 통해 primal/dual 방향과 그래디언트를 계산.

실험 결과

연구 질문

• RQ1 로그-배리어를 갖는 내부점 LP 공식화가 엔드투엔드 학습에서 적합한 미분 가능 그래디언트를 제공하는가?
• RQ2 동형 자기-쌍 LP 임베딩의 미분이 MILP 작업 손실에 대해 QPTL/ SPO 기반 접근법과 비교해 경쟁력 있는 그래디언트를 산출하는가?
• RQ3 초기화, 정지 기준(lambda-cutoff), 감쇠가 엔드투엔드 학습의 수치 안정성과 성능에 어떤 영향을 미치는가?
• RQ4 제안된 IntOpt 방법의 실험적 성능이 다양한 MILP 유사 과제에서 2단계, QPTL, SPO 접근법과 비교해 어떤 차이를 보이는가?

주요 결과

방법	MSE-손실	후회(×10^4)
2단계	11 (2)	485 (0)
QPTL	1550 (84)	563 (300)
SPO	29 (8)	295 (177)
IntOpt	76 (31)	457 (295)

• IntOpt는 그래디언트 흐름에서 LP 해결과 더 긴밀하게 정렬된 상태로 QPTL 및 SPO와 같은 최첨단 방법과 동등하거나 더 나은 성능을 보인다.
• 실험들(knapsack, energy scheduling, shortest path)에서 IntOpt은 태스크 중심 학습의 이점을 보여주며 MSE는 유사하거나 다소 낮아지는 경우도 있어 경쟁력 있는 손실 특성을 나타낸다.
• 동형 자기-쌍 LP 공식화와 로그-배리어를 사용한 미분 가능 경로를 통해 신경망 레이어로 통합 가능함을 보여준다.
• HSD 기반 그래디언트는 순방향 Newton 스텝과 동일한 선형 시스템 구조를 사용하여 효율적으로 계산할 수 있어 인수분해 재사용과 가속이 가능하다.
• lambda-cutoff와 감쇠와 같은 하이퍼파라미터가 수치 안정성과 성능에 큰 영향을 주며 조기 중단은 반복 횟수를 줄이고 안정성을 향상시킨다.
• 이 접근법은 엔드투엔드 학습이 불확실한 계수를 다루는 LP 유사 구조를 활용하고도 강한 최적화 성능을 유지할 수 있음을 보여준다.