[논문 리뷰] A GPU implementation of the Simulated Annealing Heuristic for the Quadratic Assignment Problem

Gerald Paul|arXiv (Cornell University)|2012. 08. 13.

Vehicle Routing Optimization Methods참고 문헌 15인용 수 6

한 줄 요약

이 논문은 이차 할당 문제(QAP)에 대한 시뮬레이티드 어닐링 히وري스틱의 GPU 가속 구현을 제시하며, 모든 스왑 비용을 병렬로 계산하기 위해 델타-행렬 방법을 활용한다. 대규모 반복 횟수에서 고도로 최적화된 비병렬 CPU 구현보다 50–100배의 성능 향상을 달성하며, 알고리즘적 및 하드웨어 최적화의 조합으로 전통적인 SA보다 최대 10,000배 향상된다.

ABSTRACT

The quadratic assignment problem (QAP) is one of the most difficult combinatorial optimization problems. An effective heuristic for obtaining approximate solutions to the QAP is simulated annealing (SA). Here we describe an SA implementation for the QAP which runs on a graphics processing unit (GPU). GPUs are composed of low cost commodity graphics chips which in combination provide a powerful platform for general purpose parallel computing. For SA runs with large numbers of iterations, we find performance 50-100 times better than that of a recent non-parallel but very efficient implementation of SA for the QAP

연구 동기 및 목표

• 가장 도전적인 조합 최적화 문제 중 하나인 NP-난이도의 이차 할당 문제(QAP)의 해를 가속화하기 위해.
• 고품질의 해를 구하기 위해 필요한 대규모 반복 횟수를 확보하기 위해 GPU에서 시뮬레이티드 어닐링 히وري스틱을 효율적으로 구현하기 위해.
• GPU의 병렬 처리를 활용하면서도 원래의 SA 논리 구조를 유지함으로써 알고리즘의 정확성을 유지하기 위해.
• 모든 스왑 비용을 다시 계산하는 방식으로 인해 발생하는 전통적 SA의 성능 저하 문제를 해결하기 위해.

제안 방법

• 모든 가능한 스왑(i,j)에 대한 비용 변화 Δi,j를 병렬로 사전 계산하고 유지하기 위해 델타-행렬 방법을 채택한다.
• 각 스레드가 하나의 스왑 계산을 처리하도록 NVIDIA Tesla C2070 GPU에서 CUDA를 사용하여 SA 히وري스틱을 구현한다.
• 공유된 데이터 구조물(예: 순열 및 델타 행렬)의 업데이트를 조율하기 위해 스레드 블록 내에서 장벽 동기화를 사용한다.
• 스레드 블록 수를 SM의 수로 제한하여 동기화 중 블록 간 死락을 방지한다.
• 각 수락된 스왑 이후 순열과 델타 행렬을 그 자리에서 업데이트하여 모든 스레드 간 일관성을 확보한다.
• 온도 T에 냉각 스케줄을 적용하고, 균일한 난수 변수 r을 사용하여 비용 증가 스왑을 확률적으로 수락한다.

실험 결과

연구 질문

• RQ1 QAP에 대한 시뮬레이티드 어닐링 히وري스틱은 GPU에서 효과적으로 병렬화되어 상당한 성능 향상을 이룰 수 있는가?
• RQ2 대규모 반복 횟수에서 GPU 기반 SA 구현의 성능은 고도로 최적화된 비병렬 CPU 버전과 비교해 어떻게 되는가?
• RQ3 GPU 메모리 및 동기화 제약 조건 하에서도 스왑 비용 병렬 계산을 가능하게 하는 델타-행렬 방법은 여전히 효율적인가?
• RQ4 알고리즘 최적화(델타-행렬)와 GPU 병렬 처리를 조합했을 때 QAP에 대해 달성 가능한 최대 성능 향상은 얼마인가?
• RQ5 GPU 구현은 히وري스틱 논리 구조를 수정하지 않고도 기존 CPU 기반 SA 히وري스틱과 통계적으로 동일한 결과를 도출할 수 있는가?

주요 결과

• 대규모 반복 횟수(I ≥ 10^4)에서 고도로 최적화된 비병렬 CPU 구현 대비 GPU 구현이 50–100배 빠른 성능 향상을 달성한다.
• 성능 향상은 약 10^7회의 반복에서 정점에 도달하며, 초기 저수락률 단계의 오버헤드가 무시 가능해짐에 따라 더 이상 증가하지 않는다.
• 델타-행렬 방법을 통해 알고리즘적 및 하드웨어 가속이 결합된 덕분에 기존의 SA 구현(델타-행렬 미사용) 대비 최대 10,000배 향상된다.
• 델타-행렬 방법은 GPU 스레드 전역에서 모든 스왑 비용 계산을 동시에 실행할 수 있도록 하여 효율적인 병렬 처리를 가능하게 한다.
• 스레드 블록 간 동기화는 SM 수와 동일한 블록 수로 제한함으로써 사전에 데드락을 방지하는 커스터마이즈된 메커니즘을 통해 관리된다.
• GPU 구현은 원래 CPU 기반 SA 히وري스틱과 통계적으로 동일한 결과를 도출하며, 하드웨어 수준의 병렬 처리에도 불구하고 알고리즘 정확성이 확인된다.