[논문 리뷰] How Good Is Neural Combinatorial Optimization? A Systematic Evaluation on the Traveling Salesman Problem

Shengcai Liu, Yu Zhang외 2명|arXiv (Cornell University)|2022. 09. 22.

Metaheuristic Optimization Algorithms Research인용 수 5

한 줄 요약

이 논문은 여행사 문제(TSP)에서 신경망 기반 조합 최적화(NCO) 솔버와 전통적 솔버 간의 체계적 평가를 제안하며, 다섯 가지 성능 차원에서 포괄적인 프로토콜을 적용한다. 결과적으로 NCO 솔버는 일반적으로 전통적 방법보다 성능이 열 劣하나, 충분한 훈련 데이터가 확보된 경우 소규모 TSP 인스턴스에서 시간 및 에너지 효율성이 뛰어나질 수 있다.

ABSTRACT

Traditional solvers for tackling combinatorial optimization (CO) problems are usually designed by human experts. Recently, there has been a surge of interest in utilizing deep learning, especially deep reinforcement learning, to automatically learn effective solvers for CO. The resultant new paradigm is termed neural combinatorial optimization (NCO). However, the advantages and disadvantages of NCO relative to other approaches have not been empirically or theoretically well studied. This work presents a comprehensive comparative study of NCO solvers and alternative solvers. Specifically, taking the traveling salesman problem as the testbed problem, the performance of the solvers is assessed in five aspects, i.e., effectiveness, efficiency, stability, scalability, and generalization ability. Our results show that the solvers learned by NCO approaches, in general, still fall short of traditional solvers in nearly all these aspects. A potential benefit of NCO solvers would be their superior time and energy efficiency for small-size problem instances when sufficient training instances are available. Hopefully, this work would help with a better understanding of the strengths and weaknesses of NCO and provide a comprehensive evaluation protocol for further benchmarking NCO approaches in comparison to other approaches.

연구 동기 및 목표

• 조합 최적화 분야에서 신경망 기반 조합 최적화(NCO) 솔버와 전통적 솔버 간의 엄밀하고 표준화된 비교가 부족한 문제를 해결하기 위해.
• TSP에서 포괄적인 평가 프레임워크를 통해 NCO 접근법의 한계와 잠재적 이점을 규명하기 위해.
• 향후 NCO 방법의 전통적 솔버에 대한 평가를 다섯 가지 성능 차원에서 기준 프로토콜로 정립하기 위해.
• 훈련 데이터의 품질과 문제 크기가 NCO 솔버 성능에 미치는 영향을 분석하며, 특히 제한된 또는 오래된 인스턴스가 존재하는 실생활 시나리오에서의 영향을 조사하기 위해.
• 수작업으로 설계된 솔버와 비교해 NCO 솔버가 대규모 또는 다양한 TSP 인스턴스에서 경쟁 가능한 성능을 달성할 수 있는지 탐색하기 위해.

제안 방법

• POMO와 NeuroLKH를 포함한 여러 NCO 솔버를 평가하였으며, 노드 수가 50에서 10,000까지 다양하게 변하는 다양한 TSP 인스턴스에서 훈련하였다.
• 다섯 차원의 평가 프로토콜을 적용: 효과성(해의 품질), 효율성(계산 시간), 안정성(다중 실행 간 일관성), 확장성(문제 크기별 성능), 일반화 능력(미래의 문제 유형에서의 성능).
• POMO의 경우, 정책 기반 강화학습을 사용해 훈련을 수행하였으며, 성능 검증은 10,000개의 별도 테스트 인스턴스 세트에서 수행하였다.
• NeuroLKH는 LKH 솔버와 학습된 모델을 결합하여 후보 간선 집합을 생성함으로써 LKH의 검색 공간을 축소하면서도 최적화 능력을 유지한다.
• LKH와 EAX와 같은 전통적 솔버는 기본 설정 외에도 오픈소스 도구를 활용해 자동으로 파rameter 조정을 수행하여 공정한 비교를 확보하였다.
• 기준 벤치마크에는 랜덤, 군집형, 실생활 인스턴스를 포함한 다섯 가지 유형의 TSP 문제 유형이 포함되어 있어 일반화 및 강건성 평가가 가능하도록 하였다.

실험 결과

연구 질문

• RQ1 다양한 TSP 인스턴스 유형과 크기에서 NCO 솔버와 전통적 솔버 간의 해의 품질(효과성)은 어떻게 비교되는가?
• RQ2 NCO 솔버의 훈련 및 구현에 소요되는 계산 효율성과 에너지 비용은 전통적 솔버 대비 어떻게 되는가?
• RQ3 NCO 솔버는 다양한 랜덤 시드와 문제 인스턴스에서 얼마나 안정적이고 일관된가?
• RQ4 NCO 솔버는 대규모 TSP 인스턴스(예: 1,000~10,000개의 노드)에 대해 전통적 솔버와 비교해 얼마나 잘 확장되는가?
• RQ5 훈련 데이터가 제한되거나 오래되었을 경우, NCO 솔버는 훈련 분포 외의 문제 인스턴스에 얼마나 잘 일반화되는가?

주요 결과

• POMO와 NeuroLKH를 포함한 NCO 솔버는 모든 테스트 문제 크기와 유형에서 전통적 솔버인 LKH와 EAX보다 해의 품질(순행 길이) 측면에서 일관되게 열 劣하다.
• 문제 크가 커질수록 NCO 솔버와 전통적 솔버 간의 성능 격차가 커지며, 특히 100개 노드 인스턴스에서 POMO 솔버의 최적성 격차가 50개 노드 인스턴스보다 더 크게 나타난다.
• NCO 솔버는 상당한 훈련 시간이 필요하며, GPU 시간 기준 몇 시간에서 몇 일에 이르기까지 다양하다. 그러나 이는 오프라인 배포에는 수용 가능한 수준으로 간주된다.
• NCO 솔버의 주요 이점은 충분한 훈련 데이터가 확보된 경우 소규모 TSP 인스턴스(예: 50~100개 노드)에서만 나타나며, 이 경우 시간 및 에너지 효율성이 뛰어나지 못한 것으로 나타났다.
• 훈련 데이터가 목표 문제 분포를 충분히 반영하지 못할 경우 NCO 솔버의 성능이 심각하게 저하되며, 이는 데이터 품질에 대한 극도로 민감한 의존성의 증거이다.
• 특히 자동 설정 도구를 활용해 튜닝된 전통적 솔버는 기본 설정보다 뚜렷이 뛰어나며, 수동 튜닝이 없더라도 여전히 NCO 솔버를 능가하는 성능을 보였다.