[논문 리뷰] Field-Programmable Gate Arrays and Quantum Monte Carlo: Power Efficient Co-processing for Scalable High-Performance Computing

Salvatore Cardamone, Jonathan R. R. Kimmitt외 2명|arXiv (Cornell University)|2018. 08. 07.

Parallel Computing and Optimization Techniques참고 문헌 1인용 수 1

한 줄 요약

이 논문은 양자화학에서 변분 몬테카를로(Variational Monte Carlo, VMC) 시뮬레이션을 위한 FPGA 기반 공동 처리 아키텍처를 제안한다. 현장 프로그래밍 가능한 게이트 어레이(Field-Programmable Gate Array, FPGA)를 활용하여 웨이트당 성능이 뛰어나다. 파동함수 평가 및 지수 함수 계산과 같은 계산 집약적인 컴포onent을 오프로드함으로써 FPGA 설계는 CPU 단독 구현 대비 최대 4.5배의 성능 향상과 3.5배의 에너지 효율성 향상을 달성하였다. 이는 FPGAs가 엑사스케일 고성능 계산을 위한 지속 가능한 솔루션임을 보여준다.

ABSTRACT

Abstract Massively parallel architectures offer the potential to significantly accelerate an application relative to their serial counterparts. However, not all applications exhibit an adequate level of data and/or task parallelism to exploit such platforms. Furthermore, the power consumption associated with these forms of computation renders “scaling out” for exascale levels of performance incompatible with modern sustainable energy policies. In this work, we investigate the potential for field‐programmable gate arrays (FPGAs) to feature in future exascale platforms, and their capacity to improve performance per unit power measurements for the purposes of scientific computing. We have focused our efforts on variational Monte Carlo, and report on the benefits of coprocessing with a FPGA relative to a purely multicore system.

연구 동기 및 목표

• 현재 HPC 플랫폼의 지속 가능하지 않은 전력 소비 문제를 해결하기 위해, 특히 엑사스케일 컴퓨팅에 초점을 맞춘다.
• FPGA가 양자 몬테카를로(QMC) 워크로드의 에너지 효율적인 공동 프로세서로 가능한지를 탐색한다.
• 伝통적인 CPU 기반 구현 대비 FPGA 가속 VMC의 성능 및 에너지 효율성을 평가한다.
• 파동함수 평가 및 지수 함수 평가를 포함한 VMC의 핵심 계산 커널에 대해 FPGA 하드웨어를 최적화한다.
• 전자 구조 이론의 과학 계산 워크로드에서 FPGA가 성능 대비 전력 소비를 뛰어나게 제공할 수 있음을 입증한다.

제안 방법

• VMC의 계산 집약적인 커널, 특히 파동함수 평가 및 지수 함수 근사화를 FPGA로 이식하였다.
• 자원 사용량과 지연 시간을 줄이기 위해 룩업 테이블과 조각별 선형 보간을 사용한 고정점 근사화된 지수 함수를 구현하였다.
• 지수의 분수 부분을 더 작은 세그먼트로 분할하여 병렬 룩업과 곱셈을 가능하게 하여 주요 경로 지연을 최소화하였다.
• 스토케스틱 샘플링을 위한 높은 스루풋을 유지하기 위해 파ip라인 아키텍처를 설계하였다.
• 다중 코어 CPU와 FPGA 공동 프로세서를 통합하여 VMC 루프에서 가장 계산 집약적인 부분을 오프로드하였다.
• 대표적인 분자 시스템에서 성능 및 전력 소비를 측정하여 FPGA 공동 처리 성능을 CPU 단독 기반 베이스라인과 비교하였다.

실험 결과

연구 질문

• RQ1 FPGA는 고성능 양자화학 시뮬레이션을 위한 GPU 및 다중 코어 CPU의 지속 가능한 대안이 될 수 있는가?
• RQ2 FPGA를 공동 처리하여 VMC를 처리함으로써 달성할 수 있는 성능 향상과 에너지 효율성 향상 수준은 어느 정도인가?
• RQ3 특히 지수 함수 및 파동함수 평가에 대한 맞춤형 하드웨어 최적화는 VMC 워크로드 가속화에 얼마나 효과적인가?
• RQ4 스토케스틱 양자 몬테카를로 방법에 대해 FPGA 기반 공동 처리가 높은 병렬성과 확장성을 유지하는가?
• RQ5 FPGA 공동 처리의 성능 대비 전력 소비는 전통적인 CPU 기반 HPC 시스템 대비 VMC에서 어떻게 비교되는가?

주요 결과

• 대표적인 분자 시스템에서 동일한 VMC 워크로드에 대해 FPGA 공동 프로세서는 CPU 단독 구현 대비 4.5배의 성능 향상을 달성하였다.
• FPGA 구현은 CPU 단독 기반 대비 3.5배 뛰어난 성능 대비 전력 소비 비율을 제공하여 에너지 효율성이 크게 향상되었다.
• 맞춤형 고정점 지수 근사화는 부동소수점 대비 자원 사용량을 60% 감소시켰지만, VMC에 필요한 충분한 정확도를 유지하였다.
• 파동함수 평가의 파이프라인 처리로 지속적인 스루풋이 가능해졌으며, 샘플당 지연 시간은 FPGA에서 100 ns 미만으로 감소하였다.
• 계산 동시성 증가에 따라 거의 선형적인 스케일링을 유지하여, 더 큰 HPC 시스템에의 통합 잠재력이 높게 나타났다.
• 결과적으로 FPGA는 양자화학 분야의 계산 집약적인 과학 계산 워크로드에 대해 GPU 및 다중 코어 CPU의 실현 가능하고 에너지 효율적인 대안임을 시사한다.