[논문 리뷰] IPMACC: Open Source OpenACC to CUDA/OpenCL Translator

Ahmad Lashgar, Alireza Majidi외 1명|arXiv (Cornell University)|2014. 12. 02.

Parallel Computing and Optimization Techniques참고 문헌 9인용 수 10

한 줄 요약

IPMACC는 OpenACC 확장 C/C++ 코드를 등가의 CUDA 또는 OpenCL 코드로 변환하는 오픈소스 프레임워크로, 최적화된 장치 바이너리를 생성하기 위해 시스템 컴파일러(예: nvcc)를 활용한다. 이는 성능 이식성, API 확장성 및 코드 점검을 지원하며, OpenACC의 추상화가 수동 최적화된 CUDA에 비해 성능을 근접하게 이끌지 못하는 이유를 드러낸다. 이는 더 높은 커널 실행 오버헤드와 더 유연하지 못한 공유 메모리 사용 방식 때문이다.

ABSTRACT

In this paper we introduce IPMACC, a framework for translating OpenACC applications to CUDA or OpenCL. IPMACC is composed of set of translators translating OpenACC for C applications to CUDA or OpenCL. The framework uses the system compiler (e.g. nvcc) for generating final accelerator's binary. The framework can be used for extending the OpenACC API, executing OpenACC applications, or obtaining CUDA or OpenCL code which is equivalent to OpenACC code. We verify correctness of our framework under several benchmarks included from Rodinia Benchmark Suit and CUDA SDK. We also compare the performance of CUDA version of the benchmarks to OpenACC version which is compiled by our framework. By comparing CUDA and OpenACC versions, we discuss the limitations of OpenACC in achieving a performance near to highly-optimized CUDA version.

연구 동기 및 목표

• OpenACC와 CUDA 및 OpenCL과 같은 저수준 가속기 대상 간의 이식성 격차를 해소하기 위해.
• 의미적 동치성을 유지하면서 성능 분석이 가능한 재사용 가능한 오픈소스 번역 파이프라인을 제공하기 위해.
• 커널 실행 오버헤드와 메모리 액세스 패턴과 같은 요소들에 대해 OpenACC와 수동 최적화된 CUDA 간의 성능 트레이드오프를 평가하기 위해.
• GPU 아키텍처에서 최적에 가까운 성능을 달성하지 못하게 하는 OpenACC의 추상화 모델의 한계를 드러내기 위해.

제안 방법

• 프레임워크는 사전 처리, OpenACC 지시어 추출, OpenACC 구조를 CUDA 또는 OpenCL 코드로의 번역, 그리고 nvcc 또는 OpenCL 컴파일러를 통한 최종 컴파일을 포함하는 네 단계의 컴파일 파이프라인을 사용한다.
• 구문 정규화를 위해 uncrustify를 활용하고, OpenACC 영역과 그 문단을 식별하기 위해 커스텀 AST 기반 파서를 사용한다.
• 번역 엔진은 OpenACC 데이터 및 병렬성 지시어를 CUDA 또는 OpenCL의 등가 구조로 매핑하며, 스레드 블록 및 그리드 구성, 메모리 할당, 데이터 전송을 포함한다.
• 공유 메모리 최적화는 데이터 재사용 패턴을 감지하고 공유 메모리 복사 연산을 삽입함으로써 자동으로 적용되어 글로벌 메모리 액세스를 줄인다.
• 커널 실행 감소는 루프의 독립성과 데이터 의존성에 대한 정적 분석을 통해 루프를 결합하고 중복된 실행을 최소화함으로써 달성된다.
• 프레임워크는 기존 툴체인(예: nvcc)과 통합되어 최종 바이너리를 생성함으로써 생산 환경에서의 GPU 실행과의 호환성을 확보한다.

실험 결과

연구 질문

• RQ1 정확성과 성능을 유지하면서 OpenACC 코드를 등가의 CUDA 또는 OpenCL 코드로 얼마나 효과적으로 변환할 수 있는가?
• RQ2 특히 커널 실행 빈도와 메모리 액세스 패턴 측면에서, 수동 최적화된 CUDA 대비 OpenACC는 어떤 성능 오버헤드를 유발하는가?
• RQ3 OpenACC의 추상화가 공유 메모리 및 코alesced 메모리 액세스와 같은 저수준 최적화의 사용을 어느 정도 제한하는가?
• RQ4 이 번역 프레임워크를 사용하여 OpenACC API를 확장하거나 가속기 코드의 성능 저하 요인을 분석할 수 있는가?

주요 결과

• OpenACC 버전의 Pathfinder 커널은 공유 메모리 기반 이웃 통신이 없기 때문에 CUDA보다 훨씬 높은 커널 실행 오버헤드를 경험하여 더 자주 실행되고 성능이 떨어진다.
• Speckle Reducing Anisotropic Diffusion(SRAD) 벤치마크에서, GPU 블록 수준과 CPU 블록 수준의 이중 감소 전략 덕분에 OpenACC가 감소 단계에서 CUDA를 앞서지만, 이는 증가한 메모리 전송 비용으로 상쇄된다.
• 행렬-행렬 곱셈 벤치마크의 CUDA 버전은 OpenACC 버전보다 1.5배 빠르며, 이는 더 적은 커널 실행 빈도와 공유 메모리로 인해 효율적인 메모리 액세스 패턴이 가능하기 때문이다.
• OpenACC가 세밀한 공유 메모리 액세스 패턴을 표현하지 못함으로써, 특히 높은 데이터 재사용이 요구되는 데이터 병렬 커널에서 중복된 글로벌 메모리 액세스와 증가한 동기화가 발생한다.
• 프레임워크는 Rodinia 및 CUDA SDK의 모든 벤치마크를 의미적 동치성 유지로 성공적으로 변환하여 다양한 워크로드에서의 정확성을 검증했다.
• OpenACC와 CUDA 간의 성능 격차는 강력한 메모리 최적화가 필요한 커널에서 가장 두드러지며, 이는 OpenACC의 추상화가 성능에 민감한 상황에서의 성능 제약을 드러낸다.