[논문 리뷰] Dynamic Partial Removal: A Neural Network Heuristic for Large Neighborhood Search

Mingxiang Chen, Lei Gao외 2명|arXiv (Cornell University)|2020. 05. 19.

Vehicle Routing Optimization Methods참고 문헌 13인용 수 10

한 줄 요약

이 논문은 조합 최적화를 위한 Large Neighborhood Search(LNS)를 향상시키기 위해 계층적 순환 그래프 컨volution 신경망(HRGCN) 기반의 새로운 신경망 히우리스틱인 동적 부분 제거(DPR)를 제안한다. 공간적 및 시간적 맥락 인식을 통합함으로써 DPR는 솔루션을 적응적으로 파손하고 복구하며, 특히 대규모 문제에서 더 빠른 수렴 속도와 뛰어난 솔루션 품질을 기록하여 전통적인 LNS 히우리스틱인 ALNS와 SISR를 능가한다.

ABSTRACT

This paper presents a novel neural network design that learns the heuristic for Large Neighborhood Search (LNS). LNS consists of a destroy operator and a repair operator that specify a way to carry out the neighborhood search to solve the Combinatorial Optimization problems. The proposed approach in this paper applies a Hierarchical Recurrent Graph Convolutional Network (HRGCN) as a LNS heuristic, namely Dynamic Partial Removal, with the advantage of adaptive destruction and the potential to search across a large scale, as well as the context-awareness in both spatial and temporal perspective. This model is generalized as an efficient heuristic approach to different combinatorial optimization problems, especially to the problems with relatively tight constraints. We apply this model to vehicle routing problem (VRP) in this paper as an example. The experimental results show that this approach outperforms the traditional LNS heuristics on the same problem as well. The source code is available at \href{https://github.com/water-mirror/DPR}{https://github.com/water-mirror/DPR}.

연구 동기 및 목표

• 대규모 조합 최적화 문제에 대해 솔루션 품질과 수렴 속도를 향상시키는 더 스마트하고 적응적인 LNS 히우리스틱을 개발하는 것.
• 딥 러닝을 활용해 LNS의 파손 연산자에 공간적 및 시간적 맥락 인식을 통합하여, 파손 과정에서 더 스마트한 노드 선택을 가능하게 하는 것.
• 특히 시간 창이 있는 용량 제약 차량 경로 문제(CVRPTW)와 같이 엄격한 제약 조건을 가진 다양한 조합 문제에 대해 이 접근법을 일반화하는 것.
• 학습 가능한 순환 그래프 기반의 파손 메커니즘을 통해 전통적인 LNS 히우리스틱인 ALNS와 SISR를 솔루션 품질과 계산 효율성 면에서 능가하는 것.

제안 방법

• LNS의 핵심으로 동적 부분 제거(DPR) 히우리스틱을 위한 계층적 순환 그래프 컨volution 신경망(HRGCN)을 제안한다.
• 파손 과정 중 공간적 맥락(경로 상의 위상적 이웃 및 연속된 노드 시퀀스)과 시간적 맥락(반복 간 솔루션 역사)을 모두 HRGCN을 통해 모델링한다.
• 학습된 맥락 임bedding 기반으로 어떤 노드나 경로를 제거할지 학습하는 동적이고 적응적인 파손 전략을 구현하며, ALNS 및 SISR의 영감을 받는다.
• 파손 후 복구 연산자를 적용하여, 제거된 노드를 솔루션에 최소 비용 삽입 전략으로 재삽입한다.
• 정책 기반 강화 학습을 사용해 합성 및 벤치마크 데이터셋에서 DPR 모델을 엔드 투 엔드로 훈련하며, 정책 기반 강화 학습이 파손 정책을 최적화한다.
• 각 반복에 대해 여러 앵커를 사용하여 다양한 파손 패턴을 탐색함으로써 검색 다양성과 솔루션 품질을 향상시킨다.

실험 결과

연구 질문

• RQ1 학습 가능한 맥락 인식 기반의 신경망 히우리스틱이 전통적인 수작업 기반의 LNS 파손 연산자보다 솔루션 품질과 수렴 속도 면에서 뛰어나게 되는가?
• RQ2 HRGCN에 공간적 및 시간적 맥락을 통합함으로써 LNS에서 노드 파손의 효과성이 얼마나 향상되는가?
• RQ3 제안된 DPR 히우리스틱은 특히 대규모 CVRPTW 인스턴스에서 어떤 식으로 스케일링되는가?
• RQ4 SISR에서 영감을 받은 적응적 파손 및 군집화된 제거 패턴의 통합이 표준 또는 무작위 제거 전략보다 더 뛰어난 성능을 내는가?

주요 결과

• CVRPTW25 벤치마크에서 DPR는 평균 비용 109.98을 기록하여 ALNS(116.64)와 SISR(114.09)를 능가하며 뛰어난 솔루션 품질을 입증했다.
• CVRPTW200에서 DPR는 평균 비용을 4066.86으로 낮춰 ALNS(4632.34)와 SISR(4454.54)보다 유의미하게 낮추며 강력한 스케일링 성능을 보였다.
• CVRPTW400에서 DPR는 9699.34를 기록했고, SISR(11301.2)와 기준값(11901.2)보다 우수한 성능을 보이며 대규모 문제에서의 강력한 성능을 입증했다.
• 그림 5의 수렴 곡선은 DPR가 기존 히우리스틱보다 더 빨리 최적의 솔루션 품질에 도달함을 보여주며, 계산 효율성을 확인한다.
• 그림 6은 반복이 진행됨에 따라 경로 계수 값이 감소함을 보여주며, 특히 대규모 문제에서 거칠기에서 세밀해지는 검색 정밀도로의 집중이 효과적으로 이루어지고 있음을 시사한다.
• DPR RL-nG 변종(25–200개 노드)과 DPR RL-nGL(400–800개 노드)은 모든 스케일에서 일관된 성능 향상을 보이며, 모델의 일반화 능력을 검증한다.