[논문 리뷰] Differentiation of Blackbox Combinatorial Solvers

Marin Vlastelica|arXiv (Cornell University)|2019. 12. 04.

Data Management and Algorithms참고 문헌 58인용 수 53

한 줄 요약

이 논문은 선형 목표 함수를 가진 블랙박스 조합 최적화 솔버에 대해 미분 가능한 역전파 방법을 제안하며, Gurobi, Blossom V, Dijkstra 알고리즘과 같은 정확한 솔버를 내장한 신경망의 엔드 투 엔드 훈련을 가능하게 한다. 이 방법은 이산적 해를 연속적 보간을 통해 기반으로 하여 단 한 번의 추가 솔버 호출로 정확한 역전파를 수행하며, TSP, 최소비용 매칭, 최단경로와 같은 복잡한 문제를 상태 최고 수준의 솔버 성능으로 해결하는 하이브리드 모델의 훈련을 가능하게 한다.

ABSTRACT

Achieving fusion of deep learning with combinatorial algorithms promises transformative changes to artificial intelligence. One possible approach is to introduce combinatorial building blocks into neural networks. Such end-to-end architectures have the potential to tackle combinatorial problems on raw input data such as ensuring global consistency in multi-object tracking or route planning on maps in robotics. In this work, we present a method that implements an efficient backward pass through blackbox implementations of combinatorial solvers with linear objective functions. We provide both theoretical and experimental backing. In particular, we incorporate the Gurobi MIP solver, Blossom V algorithm, and Dijkstra's algorithm into architectures that extract suitable features from raw inputs for the traveling salesman problem, the min-cost perfect matching problem and the shortest path problem. The code is available at https://github.com/martius-lab/blackbox-backprop.

연구 동기 및 목표

• 정확하고 수정되지 않은 조합 최적화 솔버를 미분 가능한 구성 요소로 포함하는 신경망의 엔드 투 엔드 훈련을 가능하게 하기 위해.
• 선형 목표 함수를 가진 조각별로 일정한, 비미분 가능한 조합 최적화 솔버를 통해 역전파하는 데 있어 근본적인 과제를 해결하기 위해.
• 고품질의 솔버(예: Gurobi, Blossom V)의 최적성과 성능을 유지하면서 기울기 기반 최적화를 가능하게 하기 위해.
• TSP, 최소비용 완전 매칭, 최단경로, 정수계획문제 등 다양한 문제에 일반적으로 적용 가능한 방법을 제공하기 위해.

제안 방법

• 편향된 가중치 하에서의 최적 해들의 볼록 조합을 이용한 이산적 해의 연속적 보간을 도입한다.
• 조합 최적화 문제의 최소화 구조와 최적 값 함수의 하부미분을 활용하여 손실 함수의 입력 가중치에 대한 기울기를 유도한다.
• 손실 증강 추론과 조각별 일정한 보간을 기반으로 한 새로운 수학적 기법을 활용하여 솔버를 수정하지 않고 기울기를 계산한다.
• 역전파 단계는 블랙박스 솔버를 한 번만 추가로 호출하면 되며, 순전파 단계의 계산 비용과 동일하다.
• 이 방법은 TSP, 최소비용 매칭, 최단경로를 포함한 선형 목표 함수를 가진 모든 조합 최적화 문제에 적용 가능하다.
• 해당 방법은 보간을 제어하는 하이퍼파rameter λ를 사용하여 기울기의 정보성은 유지하면서도 솔버의 정확성을 유지한다.

실험 결과

연구 질문

• RQ1 내부 논리나 성능를 수정하지 않고도, 선형 목표 함수를 가진 수정되지 않은 블랙박스 조합 최적화 솔버를 통해 역전파할 수 있는가?
• RQ2 제안된 방법이 Gurobi나 Blossom V와 같은 고성능 솔버의 최적성과 런타임 효율성을 엔드 투 엔드 훈련 중에도 유지하는가?
• RQ3 정확한 솔버를 내장한 하이브리드 신경망 아키텍처가 표준 딥러닝 모델이 다룰 수 없는 복잡한 조합 문제(예: 지구 표면 상의 TSP)를 해결할 수 있는가?
• RQ4 근사 솔버(예: OR-Tools)를 사용할 경우와 정확한 솔버를 사용할 경우의 성능 비교는 어떻게 되는가?
• RQ5 하이퍼파rameter λ가 기울기 품질과 훈련 안정성에 미치는 영향은 무엇인가?

주요 결과

• 이 방법은 Gurobi, Blossom V, Dijkstra 알고리즘과 같은 정확한 솔버를 내장한 신경망의 엔드 투 엔드 훈련을 가능하게 하며, TSP, 최소비용 매칭, 최단경로 작업에서 최고 수준의 성능을 달성한다.
• 지구 TSP 벤치마크에서 k=40개 도시에 대해 평균 도시 배치 오차가 58 ± 7 km를 기록했으며, Procrustes 변환 후 최고 성능 결과는 참값과 매우 밀접하게 일치했다.
• MNIST 최소비용 완전 매칭 작업에서, 완전 컨볼루션 신경망과 λ=10을 사용하여 k=8 및 k=16에서 100% 정확도를 달성했다.
• 워크래프트 최단경로 데이터셋에서 k=30일 때 테스트 정확도가 99.3%를 기록하여, 복잡한 실생활 지ap 구조에 대한 강력한 일반화 능력을 입증했다.
• 근사 솔버인 OR-Tools를 사용할 경우, k=10에서 테스트 정확도가 84.4%를 기록했으며, 참값 위치를 입력으로 제공했을 때의 상한선 88.6%에 근접하여, 솔버의 비최적성에 대해서도 방법이 강인함을 보였다.
• 계산 효율성도 유지되며, 역전파 단계는 단 한 번의 추가 솔버 호출로 이루어져 순전파 단계의 비용과 동일하다.