[논문 리뷰] Few-shots Parallel Algorithm Portfolio Construction via Co-evolution

Ke Tang, Shengcai Liu외 2명|arXiv (Cornell University)|2020. 07. 01.

Metaheuristic Optimization Algorithms Research참고 문헌 42인용 수 5

한 줄 요약

이 논문은 소수의 훈련 인스턴스로도 일반화 가능한 병렬 알고리즘 포트폴리오(PAP)를 구성할 수 있도록 알고리즘 설정과 합성 문제 인스턴스를 함께 진화시키는 공진화 프레임워크인 파rameterized Search의 공진화(CEPS)를 제안한다. CEPS는 설정에 다양한 적대적 생성 인스턴스를 노출시켜 일반화 능력을 향상시키며, TSP 및 VRPSPDTW에서 새로운 최고 성능 해를 달성한다.

ABSTRACT

Generalization, i.e., the ability of solving problem instances that are not available during the system design and development phase, is a critical goal for intelligent systems. A typical way to achieve good generalization is to learn a model from vast data. In the context of heuristic search, such a paradigm could be implemented as configuring the parameters of a parallel algorithm portfolio (PAP) based on a set of training problem instances, which is often referred to as PAP construction. However, compared to traditional machine learning, PAP construction often suffers from the lack of training instances, and the obtained PAPs may fail to generalize well. This paper proposes a novel competitive co-evolution scheme, named Co-Evolution of Parameterized Search (CEPS), as a remedy to this challenge. By co-evolving a configuration population and an instance population, CEPS is capable of obtaining generalizable PAPs with few training instances. The advantage of CEPS in improving generalization is analytically shown in this paper. Two concrete algorithms, namely CEPS-TSP and CEPS-VRPSPDTW, are presented for the Traveling Salesman Problem (TSP) and the Vehicle Routing Problem with Simultaneous Pickup-Delivery and Time Windows (VRPSPDTW), respectively. Experimental results show that CEPS has led to better generalization, and even managed to find new best-known solutions for some instances.

연구 동기 및 목표

• 소수의 훈련 인스턴스만 존재할 때 병렬 알고리즘 포트폴리오(PAP) 구성에서 낮은 일반화 능력 문제를 해결한다.
• 구성 조정 중에 동적으로 다양한 도전적인 문제 인스턴스를 생성하여 제한된 훈련 인스턴스에 대한 과적합을 방지한다.
• 문제 인스턴스 세트가 작고 전체 문제 클래스를 대표하지 못하는 실제 환경에서 효과적인 PAP 구성 가능성을 확보한다.
• TSP 및 VRPSPDTW와 같은 NP-완전 조합 최적화 문제의 새로운 인스턴스에 대해 히우리스틱 솔버의 강건성과 적응 능력을 향상시킨다.
• 설정과 인스턴스 생성기 모두를 동시에 진화시켜 전체 솔버 성능과 일반화 능력을 향상시키는 공진화 프레임워크를 개발한다.

제안 방법

• 설정(PAP 구성 요소)과 합성 문제 인스턴스로 구성된 두 개의 집단이 경쟁적 상호작용을 통해 함께 진화하는 공진화 시스템을 제안한다.
• 성능과 다양성 기반의 적합도를 고려해, 진화하는 다양한 인스턴스에서의 성능을 최적화하기 위해 다중 목표 유전적 알고리즘을 사용한다.
• 기존 설정의 약점을 드러내는 합성 TSP 및 VRPSPDTW 인스턴스를 생성하기 위해 인스턴스 생성기(예: 폭발, 수축, 회전)를 도입한다.
• 시간 제한 $t_{\text{init}}$, $t_c$, $t_v$, $t_i$를 갖는 네 단계의 계산 예산 할당: 초기화, 설정 진화, 인스턴스 진화, 검증.
• 도메인 특화 인스턴스 생성기를 사용하여 실제 문제인 TSP(CEPS-TSP를 통해) 및 VRPSPDTW(CEPS-VRPSPDTW를 통해)에 프레임워크를 적용한다.
• 미래에 강화 학습을 통해 훈련된 신경망과 같은 학습-최적화 방법과의 통합 가능성을 고려해 기울기 기반 최적화 잠재력을 통합한다.

실험 결과

연구 질문

• RQ1 설정과 합성 인스턴스 간의 공진화가 전통적인 설정 방법을 초월해 병렬 알고리즘 포트폴리오의 일반화 능력을 향상시킬 수 있는가?
• RQ2 소수의 훈련 인스턴스만 존재할 때 CEPS가 새로운 문제 인스턴스에서 잘 작동하는 PAP를 얼마나 효과적으로 구성할 수 있는가?
• RQ3 CEPS가 기존 설정의 약점을 드러내는 도전적이고 다양한 인스턴스를 얼마나 잘 생성할 수 있으며, 이를 통해 강건성을 얼마나 향상시킬 수 있는가?
• RQ4 공진화 과정이 TSP 및 VRPSPDTW와 같은 벤치마크 문제에서 새로운 최고 성능 해를 발견하는 데 기여하는가?
• RQ5 유사한 시간 예산 하에서 기존의 PAP 구성 방법인 GLOBAL, PCIT, PARHYDRA와 비교해 CEPS는 계산 효율성과 해 품질 측면에서 어떻게 성능을 내는가?

주요 결과

• CEPS는 소수의 훈련 인스턴스로도 TSP 및 VRPSPDTW의 새로운 인스턴스에서 기존 기준 방법보다 뛰어난 일반화 성능을 보였다.
• 이 방법은 몇몇 TSP 및 VRPSPDTW 인스턴스에서 새로운 최고 성능 해를 성공적으로 발견하여 고성능 설정을 찾는 능력을 입증했다.
• TSP에 대해 총 CPU 시간 320시간, VRPSPDTW에 대해 1312시간을 소비하여 GLOBAL 및 PARHYDRA와 유사한 시간 제약 조건 하에서 경쟁력 있거나 뛰어난 성능을 달성했다.
• 공진화 과정은 설정의 약점을 효과적으로 드러내는 다양한 도전적인 합성 인스턴스를 생성하여 더 강건한 PAP를 만들어냈다.
• CEPS에서 사용된 인스턴스 생성기(예: 폭발, 수축, 격자변형)는 비균일하고 해결하기 어려운 인스턴스를 효과적으로 생성하여 설정의 강건성을 향상시켰다.
• 연구자들은 생성된 인스턴스 세트를 공개하여 향후 알고리즘 설정 및 일반화 연구를 지원한다.