[논문 리뷰] OCCA: A unified approach to multi-threading languages

David Medina, St-Cyr, Amik외 1명|arXiv (Cornell University)|2014. 03. 04.

Parallel Computing and Optimization Techniques참고 문헌 34인용 수 84

한 줄 요약

OCCA는 런타임 컴파일과 매크로 확장을 통해 OpenMP, OpenCL, CUDA를 단일 커널 언어로 통합함으로써 이식성 있고 고성능 병렬 계산을 가능하게 하는 C++ 라이브러리입니다. 개발자는 단일 소스 커널을 작성하여 다양한 아키텍처인 CPU, GPU, Intel Xeon Phi 등에서 고성능을 달성할 수 있는 이식 가능한 커널을 개발할 수 있습니다.

ABSTRACT

The inability to predict lasting languages and architectures led us to develop OCCA, a C++ library focused on host-device interaction. Using run-time compilation and macro expansions, the result is a novel single kernel language that expands to multiple threading languages. Currently, OCCA supports device kernel expansions for the OpenMP, OpenCL, and CUDA platforms. Computational results using finite difference, spectral element and discontinuous Galerkin methods show OCCA delivers portable high performance in different architectures and platforms.

연구 동기 및 목표

• 이종 병렬 계산에서 발생하는 아키텍처 및 언어 분열 문제를 해결하기 위해.
• NVIDIA GPU, AMD GPU, Intel Xeon Phi와 같은 다양한 가속기 간에 이식 가능한 코드를 가능하게 하여 벤더 종속성 문제를 제거하기 위해.
• 저수준 스레딩 차이를 추상화하면서도 성능을 유지하는 통합 프로그래밍 모델을 제공하기 위해.
• 유한 차분, 스펙트럼 요소, 불연속 갈레르킨과 같은 고성능 수치 해법을 위한 이식 가능한 커널 생성을 지원하기 위해.

제안 방법

• OCCA는 런타임 컴파일과 C++ 매크로 확장을 사용하여 단일 소스 커널에서 플랫폼별로 특화된 커널을 생성합니다.
• OpenMP, OpenCL, CUDA의 해당 구조에 대응하는 키워드를 가진 통합 커널 언어를 도입합니다.
• 스레드 및 블록 인덱싱, 메모리 속성, 동기화 원자성 등에 대한 플랫폼에 종속되지 않는 추상화를 제공합니다.
• 플랫폼별 매크로 확장을 통해 CPU, GPU, Xeon Phi에서 커널 컴파일 및 실행을 지원합니다.
• 공유 메모리, 전역 메모리, 상수 메모리, 개인 메모리 키워드와 함께 장벽 및 메모리 팔링을 지원합니다.
• 일관된 인터페이스를 통해 다양한 스레딩 모델에 대한 자동 코드 생성을 가능하게 하여 이식 작업의 부담을 감소시킵니다.

실험 결과

연구 질문

• RQ1 OpenMP, OpenCL, CUDA와 같은 다수의 병렬 프로그래밍 모델 간에 단일 커널 언어를 어떻게 통합할 수 있는가?
• RQ2 CPU, GPU, Xeon Phi와 같은 다양한 하드웨어 아키텍처에서 고성능이고 이식 가능한 코드 생성을 가능하게 하는 메커니즘은 무엇인가?
• RQ3 매크로 기반 런타임 컴파일이 다수의 병렬 백엔드를 지원하는 데 있어 유지보수 부담을 얼마나 줄일 수 있는가?
• RQ4 OCCA의 추상화 레이어는 CUDA나 OpenCL의 수동 최적화 커널과 비교해 성능을 어떻게 유지하는가?
• RQ5 OCCA는 이종 플랫폼에서 불연속 갈레르킨 및 스펙트럼 요소 방법과 같은 복잡한 수치 해법을 효과적으로 지원할 수 있는가?

주요 결과

• OCCA는 OpenMP, OpenCL, CUDA로 컴iles되는 이식 가능한 커널을 성공적으로 생성하여 다양한 아키텍처 간 배포를 가능하게 했습니다.
• OCCA는 여러 플랫폼에서 유한 차분, 스펙트럼 요소, 불연속 갈레르킨 방법에서 고성능을 달성했습니다.
• 런타임 컴파일과 매크로 확장을 통해 코드 중복 없이 다수의 스레딩 백엔드를 대상으로 하는 단일 커널 소스를 지원합니다.
• OpenMP, OpenCL, CUDA의 네이티브 구조에 대응하는 OCCA 키워드를 통해 플랫폼별 최적화를 지원합니다.
• 스레드 인덱싱, 메모리 속성, 동기화에 대한 통합 키워드 사용으로 이식 복잡도를 감소시켰습니다.
• 저수준 스레딩 차이를 추상화하면서도 메모리 및 실행에 대한 저수준 제어를 유지함으로써 OCCA는 성능 이식 가능한 과학 계산을 가능하게 했습니다.