[논문 리뷰] Nonconvex piecewise linear functions: Advanced formulations and simple modeling tools

Joey Huchette, Juan Pablo Vielma|arXiv (Cornell University)|2017. 07. 31.

Formal Methods in Verification인용 수 14

한 줄 요약

이 논문은 기하학적 및 조합적 접근을 사용하여 비볼록 조각별 선형 함수에 대한 새로운 혼합정수계획법(MIP) 수식을 제안하며, 단변수 경우에서는 최대 3배의 속도 향상을, 이변수 경우에서는 주요 개선을 이룩한다. 이는 조각별선형최적화(PiecewiseLinearOpt)라는 Julia 기반 모델링 도구를 통해 실현되며, 복잡한 수식을 추상화하여 사용자가 저수준의 MIP 세부사항에 노출되지 않도록 하면서도 고수준의 효율적 모델링을 가능하게 한다.

ABSTRACT

We present novel mixed-integer programming (MIP) formulations for optimization over nonconvex piecewise linear functions. We exploit recent advances in the systematic construction of MIP formulations to derive new formulations for univariate functions using a geometric approach, and for bivariate functions using a combinatorial approach. All formulations are strong, small (so-called logarithmic formulations), and have other desirable computational properties. We present extensive experiments in which they exhibit substantial computational performance improvements over existing approaches. To accompany these advanced formulations, we present PiecewiseLinearOpt, an extension of the JuMP modeling language in Julia that implements our models (alongside other formulations from the literature) through a high-level interface, hiding the complexity of the formulations from the end-user.

연구 동기 및 목표

• 특히 고차원 또는 복잡한 상황에서 비볼록 조각별 선형 함수에 대한 기존 MIP 수식의 계산 비효율성을 해결한다.
• 단변수 및 이변수 비볼록 조각별 선형 함수에 대해 더 강력하고 작고(로그형 크기), 계산적으로 뛰어난 수식을 개발한다.
• 고급 MIP 수식과 실용적 사용성 사이의 격차를 메우기 위해, 수식 복잡성을 숨기는 고수준 모델링 인터페이스를 개발한다.
• 기본 및 실제 문제에 대한 광범위한 계산 실험을 통해 새로운 수식이 기존 수식보다 뛰어나다는 것을 입증한다.
• 사용자 友好的한 모델링 프레임워크에 고급 MIP 기법을 통합함으로써, 이 기법들의 넓은 보급을 가능하게 한다.

제안 방법

• 일반 정수 변수를 이진 변수 대신 사용하여 분기 행동을 향상시키는 기하학적 수식 구성 기법을 단변수 함수에 적용한다.
• 격자 삼각분할 영역에서의 이변수 함수에 대해 조합 수식 기법을 확장하여, 새로운 로그형 수식 가족을 생성한다.
• 강력한(이완이 타이트한), 작고(세그먼트 수에 대해 로그형), 계산적으로 효율적인 수식을 설계한다.
• PiecewiseLinearOpt를 구현하여, JuMP의 Julia 기반 확장으로서 조각별 선형 함수를 모델링하기 위한 고수준 API를 제공한다.
• 비선형 함수(예: 로지스틱 함수)의 조각별 선형 근사화를 확률적 최적화 문제에 적용하여 성능를 검증한다.
• 합성 및 실제 문제 인스턴스에서 최첨단 대안들(예: LogE, ZZB, ZZI)과의 벤치마크를 통해 해법 시간, 최적성 갭, 성공률을 측정한다.

실험 결과

연구 질문

• RQ1 일반 정수 변수를 사용하는 기하학적 MIP 수식 기법이 기존의 이진 변수 기반 로그형 수식에 비해 단변수 비볼록 조각별 선형 함수의 계산 성능을 향상시킬 수 있는가?
• RQ2 조합 수식 기법을 격자 삼각분할 영역에서의 이변수 비볼록 조각별 선형 함수로 확장하여 로그형 크기의 강력한 수식을 달성할 수 있는가?
• RQ3 어떤 정도로 새로운 수식이 하드 인스턴스에서 해법 시간과 확장성 측면에서 기존 최첨단 수식들을 초월하는가?
• RQ4 PiecewiseLinearOpt와 같은 고수준 모델링 도구가 복잡한 MIP 수식을 효과적으로 추상화하면서도 계산 효율성과 사용성을 유지할 수 있는가?
• RQ5 로지스틱 근사화를 포함한 비선형성을 포함한 실제 응용 분야에서, 새로운 수식은 어떤 성능을 보이는가? 예를 들어, 확률적 선택 비율 문제에서의 성능를 평가한다.

주요 결과

• 제안된 단변수 수식은 기존 수식 대비 하드 인스턴스에서 최대 3배의 속도 향상을 보였으며, 주로 분기 행동 향상 덕분이었다.
• 이변수 함수의 경우, 기존 방법에 비해 계산 성능에서 주요 개선(순서수준 개선)을 이룩하였다.
• 선택 비율 문제 벤치마크에서 ZZI 수식이 모든 다른 수식들보다 뛰어나게 성능을 보였으며, 18개 인스턴스 중 13개를 30분 이내에 해결하였다. 반면 LogE는 어떤 인스턴스도 해결하지 못했다.
• ZZI 수식의 평균 해법 시간은 776.2초였으며, LogE의 3600초(수렴 실패)보다 뚜렷이 낮았고, ZZB의 3525.5초보다도 낮았다.
• PiecewiseLinearOpt 패키지는 사용자가 낮은 수준의 MIP 수식 복잡성을 숨기면서도 깔끔한 고수준 인터페이스를 통해 복잡한 조각별 선형 함수를 모델링할 수 있도록 하였다.
• 본 연구는 고급 MIP 수식이 접근성 있는 모델링 도구와 조합될 경우, 비볼록 조각별 선형 최적화의 실용성과 보급 가능성이 크게 향상될 수 있음을 입증하였다.