[논문 리뷰] The GPU vs Phi Debate: Risk Analytics Using Many-Core Computing

Blesson Varghese|arXiv (Cornell University)|2015. 01. 26.

Distributed and Parallel Computing Systems참고 문헌 25인용 수 5

한 줄 요약

이 논문은 재보험 포트폴리오의 고성능 리스크 분석을 위한 GPU 및 인텔 Xeon Phi 가속기 성능을 평가하며, 주로 주요 및 보조 불확실성을 모두 모델링하는 집합 리스크 분석(ARA)에 초점을 맞춘다. CPU, GPU, 하이브리드 플랫폼에서의 ARA를 위한 병렬 알고리즘을 제안하며, GPU보다 높은 원시 성능(80만 번의 시험에서 GPU 대비 42초 대비 55초)을 보인 Phi의 성능에 비해 GPU-CPU 하이브리드 플랫폼이 실제 성능에서 가장 뛰어나며(41초), Phi-CPU보다 50% 빠르고 기준 CPU 실행 대비 16배의 성능 향상을 보였다.

ABSTRACT

The risk of reinsurance portfolios covering globally occurring natural catastrophes, such as earthquakes and hurricanes, is quantified by employing simulations. These simulations are computationally intensive and require large amounts of data to be processed. The use of many-core hardware accelerators, such as the Intel Xeon Phi and the NVIDIA Graphics Processing Unit (GPU), are desirable for achieving high-performance risk analytics. In this paper, we set out to investigate how accelerators can be employed in risk analytics, focusing on developing parallel algorithms for Aggregate Risk Analysis, a simulation which computes the Probable Maximum Loss of a portfolio taking both primary and secondary uncertainties into account. The key result is that both hardware accelerators are useful in different contexts; without taking data transfer times into account the Phi had lowest execution times when used independently and the GPU along with a host in a hybrid platform yielded best performance.

연구 동기 및 목표

• 재보험 포트폴리오의 리스크 분석을 가속화하기 위해 GPU 및 인텔 Xeon Phi 가속기의 성능 평가.
• 주요 및 보조 불확실성을 모두 고려한 집합 리스크 분석(ARA)을 위한 병렬 알고리즘 개발 및 구현.
• 실제 리스크 시뮬레이션 워크로드에서 독립형 가속기와 하이브리드 CPU-가속기 플랫폼 간의 성능 비교.
• 메모리 액세스 및 통계 계산(특히 비대칭 베타 분포의 역누적분포함수)에서 발생하는 성능 저하 요인 규명.
• 금융 부문에서 고성능·저비용 리스크 분석을 위한 하드웨어 가속기 선택에 실질적인 통찰 제공.

제안 방법

• CUDA 및 OpenMP를 사용하여 다중 코어 CPU(인텔 i7, Xeon), NVIDIA GPU, 인텔 Xeon Phi에서 병렬 ARA 시뮬레이션을 구현.
• 스토케스틱 이벤트 카탈로그 및 노출 데이터베이스를 활용해 주요 불확실성(사건 발생)과 보조 불확실성(손실 분포 변동성)을 모델링하는 알고리즘 설계.
• 특히 고대역폭 작업에 매우 중요한 이벤트 데이터 및 손실 집합을 가져올 때의 지연을 줄이기 위해 메모리 액세스 패턴 최적화.
• 보조 불확실성에 대한 통계 함수 통합, 특히 비대칭 베타 분포의 역누적분포함수(inverse CDF) 포함.
• 실제 성능 평가를 위해 데이터 전송 오버헤드까지 포함한 플랫폼 간 실행 시간 측정, 하이브리드 및 독립형 구성에서의 성능 평가.
• 일致한 벤치마킹을 위해 80만 번의 시험, 각 시험당 1,000개의 이벤트 및 16개의 확장된 이벤트 손실표(ELT)를 포함한 표준화된 시뮬레이션 워크로드 사용.

실험 결과

연구 질문

• RQ1 GPU 및 인텔 Xeon Phi 가속기가 주요 및 보조 불확실성을 모두 고려한 집합 리스크 분석에서 원시 실행 성능 측면에서 어떻게 비교되는가?
• RQ2 독립형 가속기(예: Xeon Phi)의 실질적 성능에 영향을 미치는 데이터 전송 오버헤드는 하이브리드 CPU-가속기 시스템에 비해 어떤가?
• RQ3 메모리 액세스 패턴과 통계 계산(특히 비대칭 베타 분포의 역CDF)은 리스크 시뮬레이션 워크로드에서 전체 성능에 어떤 영향을 미치는가?
• RQ4 데이터 전송 시간을 제외한 조건에서 Xeon Phi가 GPU보다 더 높은 성능를 내는가? 이는 실무 환경에서 실제로 의미가 있는가?
• RQ5 대규모 리스크 분석에서 최저의 종단 간 실행 시간을 달성하기 위해 최적의 하드웨어 구성(독립형 대비 하이브리드)은 무엇인가?

주요 결과

• 80만 번의 ARA 시험에서 인텔 Xeon Phi는 데이터 전송 시간을 제외한 원시 실행 시간이 42초로, GPU의 55초보다 빠르게 기록했다.
• GPU-CPU 하이브리드 플랫폼은 동일한 시뮬레이션을 41초 만에 완료하여, Xeon-Phi 조합(63초) 대비 50% 더 빠르게 작동했다.
• GPU-CPU 하이브리드 시스템은 인텔 i7 프로세서에서의 기준 순차 실행 대비 16배의 성능 향상을 보였다.
• 원시 실행 속도는 빠르지만, 80만 번의 시험을 메모리에 복사하는 데 3시간이 넘는 높은 오버헤드로 인해 Xeon Phi는 대부분의 실무 응용 분야에서 실용적이지 않다.
• GPU에서는 이벤트 및 손실 집합을 가져올 때의 메모리 액세스가 총 실행 시간의 39%를 차지했고, CPU에서는 27%를 차지하여, 여전히 메모리 대역폭이 핵심 성능 저하 요인임을 시사한다.
• CPU 및 가속기 구현 모두에서 비대칭 베타 분포의 역CDF 계산이 50% 이상의 시간을 차지하여, 최적화가 필요한 핵심 성능 저하 요인임을 확인했다.