[논문 리뷰] SurCo: Learning Linear Surrogates For Combinatorial Nonlinear Optimization Problems

Aaron Ferber, Taoan Huang외 5명|arXiv (Cornell University)|2022. 10. 22.

Metaheuristic Optimization Algorithms Research인용 수 4

한 줄 요약

SurCo는 비선형 비볼록 비용 함수를 가진 조합 최적화 문제를 효율적인 오프더섀프 선형 솔버를 통해 미분 가능하게 처리함으로써 선형 대체 비용을 학습함으로써 기존의 상태기반 방법보다 더 빠르고 우수한 해를 도출한다. 실세계 응용 분야인 임bedding 스파팅, 광학 장치 설계, 경로 계획 등에서 뛰어난 성능을 보인다.

ABSTRACT

Optimization problems with nonlinear cost functions and combinatorial constraints appear in many real-world applications but remain challenging to solve efficiently compared to their linear counterparts. To bridge this gap, we propose $ extbf{SurCo}$ that learns linear $\underline{ ext{Sur}}$rogate costs which can be used in existing $\underline{ ext{Co}}$mbinatorial solvers to output good solutions to the original nonlinear combinatorial optimization problem. The surrogate costs are learned end-to-end with nonlinear loss by differentiating through the linear surrogate solver, combining the flexibility of gradient-based methods with the structure of linear combinatorial optimization. We propose three $ exttt{SurCo}$ variants: $ exttt{SurCo}- exttt{zero}$ for individual nonlinear problems, $ exttt{SurCo}- exttt{prior}$ for problem distributions, and $ exttt{SurCo}- exttt{hybrid}$ to combine both distribution and problem-specific information. We give theoretical intuition motivating $ exttt{SurCo}$, and evaluate it empirically. Experiments show that $ exttt{SurCo}$ finds better solutions faster than state-of-the-art and domain expert approaches in real-world optimization problems such as embedding table sharding, inverse photonic design, and nonlinear route planning.

연구 동기 및 목표

• 비선형, 비볼록 비용 함수를 가진 조합 최적화 문제를 효율적이고 표준화된 솔버를 통해 해결하는 데 도전한다.
• 흑상자 최적화나 히وري스틱 방법의 한계를 극복하여 느리거나 조합 가능성 보장을 보장하지 못하는 문제를 해결한다.
• 비선형 目적과 선형 솔버 사이의 격차를 해소하기 위해 문제의 구조를 유지하는 선형 대체 비용을 학습한다.
• 문제 인스턴스의 기술서에서 예측 가능한 대체 계수를 학습함으로써 다양한 문제 인스턴스로의 일반화를 가능하게 한다.
• 실세계 도메인인 GPU 스파팅, 광학 장치 설계, 확률적 경로 계획 등에서 해의 품질과 런타임 효율성을 향상시킨다.

제안 방법

• SurCo-zero: 비선형 손실을 최소화하기 위해 선형 조합 솔버를 통해 역전파를 수행함으로써 종단 간 선형 대체 비용 훈련을 제안한다.
• SurCo-prior: 문제에 특화된 특징에서 대체 계수를 예측하는 모델을 훈련하여, 미리 보지 않은 문제에 대해 빠른 추론을 가능하게 한다.
• SurCo-hybrid: 개별 테스트 인스턴스에서 SurCo-zero를 사용해 SurCo-prior 예측을 미세조정함으로써 분포 수준의 지식과 인스턴스 수준의 지식을 통합한다.
• 미분 가능한 솔버를 활용해 대체 해를 통해 비선형 목표의 기울기를 계산함으로써 대체 계수의 기울기 기반 최적화를 가능하게 한다.
• 대체 최적화 문제를 사용: min_x∈Ω ĉᵀx, 여기서 ĉ는 신경망에 의해 예측되고 x는 조합적으로 가능하다.
• 진정한 목표를 반영하는 비선형, 미분 가능한 손실 함수를 사용해 훈련함으로써 모델이 효과적인 선형 근사치를 학습할 수 있도록 한다.

실험 결과

연구 질문

• RQ1 선형 대체 비용을 학습함으로써 비선형 조합 최적화 문제에 대해 효율적이고 고성능의 해를 도출할 수 있는가?
• RQ2 선형 솔버를 통해 미분함으로써 흑상자 또는 히وري스틱 방법에 비해 샘플 효율성과 해의 품질이 향상되는가?
• RQ3 분포 수준의 문제에 대해 훈련된 모델이 새로운 인스턴스로 일반화되면서도 높은 해의 품질을 유지할 수 있는가?
• RQ4 분포 수준의 사전 지식과 인스턴스 수준의 미세조정을 결합함으로써 비선형 최적화 성능이 향상되는가?
• RQ5 복잡한 비선형 목표와 조합 제약 조건을 가진 실세계 응용 분야에서 SurCo는 최신 기술보다 뛰어난 성능을 보일 수 있는가?

주요 결과

• SurCo-zero는 런타임이 유사하거나 낮은 수준에서 임베딩 테이블 스파팅 문제에서 최신 기술보다 더 뛰어난 해의 품질을 달성한다.
• SurCo-prior는 동일한 분포의 보류된 문제를 해결하는 데 강화 학습 및 기타 학습 기반 방법보다 뛰어난 성능을 보인다.
• SurCo-hybrid는 개별 인스턴스에서의 미세조정을 통해 SurCo-prior를 초월하여 비선형 경로 계획 및 광학 장치 설계에서 더 우수한 해를 도출한다.
• 기존 방법보다 더 빨리 실현 가능한 광학 장치를 찾음으로써 역설계 분야에서 실용성을 입증한다.
• SurCo는 GPU 스파팅 및 확률적 경로 계획과 같은 산업 규모의 응용 분야를 포함해 다양한 실세계 문제에 대해 잘 일반화된다.
• 프레임워크는 미분 가능한 솔버를 활용한 선형 대체 비용 학습이 비선형 조합 최적화 문제에 대해 확장 가능하고 고성능 최적화를 가능하게 한다는 점을 입증한다.