[논문 리뷰] How to Evaluate Machine Learning Approaches for Combinatorial Optimization: Application to the Travelling Salesman Problem

Antoine François, Quentin Cappart외 1명|arXiv (Cornell University)|2019. 09. 28.

Metaheuristic Optimization Algorithms Research참고 문헌 32인용 수 11

한 줄 요약

이 논문은 조합 최적화 모델, 특히 TSP에 대해 기계학습 구성요소의 정확도를 분리하고 측정하기 위한 새로운 평가 지표인 최적 결정 비율(Ratio of Optimal Decisions, ROD)을 도입한다. 최신 기계학습 모델이 약 1.33%의 최적성 갭을 보이지만, ROD는 이러한 모델의 학습 구성요소가 매우 정확한 오라클과 유사한 성능을 보임을 드러내며, 성능 향상은 학습 모델 자체보다는 검색 절차 개선에 초점을 맞춰야 함을 시사한다.

ABSTRACT

Combinatorial optimization is the field devoted to the study and practice of algorithms that solve NP-hard problems. As Machine Learning (ML) and deep learning have popularized, several research groups have started to use ML to solve combinatorial optimization problems, such as the well-known Travelling Salesman Problem (TSP). Based on deep (reinforcement) learning, new models and architecture for the TSP have been successively developed and have gained increasing performances. At the time of writing, state-of-the-art models provide solutions to TSP instances of 100 cities that are roughly 1.33% away from optimal solutions. However, despite these apparently positive results, the performances remain far from those that can be achieved using a specialized search procedure. In this paper, we address the limitations of ML approaches for solving the TSP and investigate two fundamental questions: (1) how can we measure the level of accuracy of the pure ML component of such methods; and (2) what is the impact of a search procedure plugged inside a ML model on the performances? To answer these questions, we propose a new metric, ratio of optimal decisions (ROD), based on a fair comparison with a parametrized oracle, mimicking a ML model with a controlled accuracy. All the experiments are carried out on four state-of-the-art ML approaches dedicated to solve the TSP. Finally, we made ROD open-source in order to ease future research in the field.

연구 동기 및 목표

• 조합 최적화, 특히 TSP 솔버에서 기계학습 구성요소에 대한 공정한 평가 부족 문제를 해결하기 위해.
• 기계학습 기반의 조합 최적화 문제 접근법에서 학습과 검색의 기여도를 분리하기 위해.
• 기계학습 모델의 내재된 정확도를 검색 휴리스틱과 분리하여 평가할 수 있는 표준화된, 오픈소스 지표(ROD)를 제안하기 위해.
• 현재 TSP를 위한 기계학습 모델이 학습 품질이 아닌 검색 절차 설계로 인해 제한됨을 경험적으로 입증하기 위해.
• 향후 연구가 모델 재학습보다는 검색 절차 개선에 초점을 맞추도록 이끌기 위해.

제안 방법

• 제어된 결정 정확도를 가진 오라클을 기반으로 한 ROD라는 지표를 제안하여, 기계학습 모델의 최적 결정 비율을 측정한다.
• 정확도가 알려진 기준과 비교해 모델이 내린 최적 결정의 비율을 오라클을 통해 평가한다.
• TSP에 대한 네 가지 최신 딥러닝 모델(Kool et al., Joshi et al., Deudon et al., Khalil et al.)에 ROD를 적용한다.
• 빔 서치, 2-OPT, LK, 3-OPT 등의 검색 절차를 사용하거나 사용하지 않은 상태에서 모델을 평가하여 검색의 영향을 분리한다.
• 100개 정점을 가진 1000개의 TSP 인스턴스를 대상으로 최적성 갭과 실행 시간을 측정한다.
• ROD 지표를 오픈소스로 공개하여, 기계학습 기반 조합 최적화 문제의 재현 가능성과 향후 벤치마킹을 촉진한다.

실험 결과

연구 질문

• RQ1 기계학습 모델의 학습 구성요소를 검색 절차와 독립적으로 공정하게 평가할 수 있는 방법은 무엇인가?
• RQ2 현재 기계학습 기반 TSP 솔버의 성능은 학습 구성요소의 품질보다 검색 절차의 품질에 얼마나 의존하는가?
• RQ3 제어된 오라클 기준을 사용해 학습된 모델이 내린 개별 결정의 정확도를 정량화할 수 있는가?
• RQ4 다양한 검색 절차(예: 빔 서치, LK, 2-OPT)가 기계학습 기반 TSP 모델의 최종 해 품질에 미치는 상대적 영향은 어떠한가?
• RQ5 최신 모델의 학습 구성요소는 이미 오라클 수준의 성능에 도달했는가? 이는 향후 개선이 검색 절차에 초점을 맞춰야 한다는 것을 시사하는가?

주요 결과

• 최신 TSP 모델의 학습 구성요소는 정확도 90%의 오라클과 유사한 수준의 성능을 보이며, 강력한 내재된 학습 능력을 갖추고 있음을 시사한다.
• 7.05%의 최적성 갭을 보일지라도, 최고 성능 모델(Joshi et al.)의 ROD 점수는 0.91에 도달하여 단계별 최적 결정에 가까운 성능을 보였다.
• 검색 절차를 통합함으로써 빔 서치와 LK 휴리스틱을 사용할 경우 최적성 갭이 7.05%에서 0.24%로 감소하여 검색의 거대한 성능 향상을 입증했다.
• 빔 서치(16개 빔)와 LK 국소 검색을 조합함으로써 최고 성능 모델의 갭이 7.05%에서 0.24%로 개선되어 검색의 지배적 역할을 확인했다.
• 다양한 모델이 동일한 검색 절차에 대해 서로 다른 반응을 보이며, 검색 절차 설계가 모델에 따라 달라지며 비단순적임을 시사한다.
• ROD의 오픈소스 공개로 인해 조합 최적화 문제에서 하이브리드 학습-검색 접근법의 표준화된 평가 및 향후 개발이 가능해졌다.