[논문 리뷰] Programming Massively Parallel Architectures using MARTE: a Case Study

Antônio Wendell De Oliveira Rodrigues, Frédéric Guyomarc'h외 1명|arXiv (Cornell University)|2011. 03. 24.

Parallel Computing and Optimization Techniques참고 문헌 4인용 수 3

한 줄 요약

이 논문은 GPU 가속 신호 처리 응용 프로그램을 위한 최적화된 OpenCL 코드를 자동으로 생성하기 위해 UML과 MARTE 프로파일을 사용하는 모델 기반 공학 접근법을 제안한다. 모델에서 텍스트로의 코드 생성 과정에 성능 인식 전환을 적용함으로써, 이 프레임워크는 순차적 CPU 코드 대비 최대 10배의 성능 향상을 달성하고 비최적화 GPU 코드 대비 25% 향상을 기록하며, 다수의 병렬 아키텍처에서 고성능 계산을 위한 MDE의 실현 가능성을 입증한다.

ABSTRACT

Nowadays, several industrial applications are being ported to parallel architectures. These applications take advantage of the potential parallelism provided by multiple core processors. Many-core processors, especially the GPUs(Graphics Processing Unit), have led the race of floating-point performance since 2003. While the performance improvement of general- purpose microprocessors has slowed significantly, the GPUs have continued to improve relentlessly. As of 2009, the ratio between many-core GPUs and multicore CPUs for peak floating-point calculation throughput is about 10 times. However, as parallel programming requires a non-trivial distribution of tasks and data, developers find it hard to implement their applications effectively. Aiming to improve the use of many-core processors, this work presents an case-study using UML and MARTE profile to specify and generate OpenCL code for intensive signal processing applications. Benchmark results show us the viability of the use of MDE approaches to generate GPU applications.

연구 동기 및 목표

• 다핵 GPU에서의 효과적인 병렬 프로그래밍의 어려움, 특히 전문가가 아닌 개발자를 대상으로 하여 해결하고자 한다.
• UML과 MARTE를 사용한 모델 기반 공학(MDE)이 고성능 GPU 코드를 생성하는 데 실현 가능할지를 탐색하고자 한다.
• 호스트와 디바이스 간의 메모리 전송을 자동으로 최적화함으로써 GPU 계산에서 주요 성능 저하 요인인 전송 오버헤드를 줄이고자 한다.
• 자동으로 생성된 OpenCL 코드가 수작업 최적화된 구현과 유사한 성능을 달성할 수 있는지 평가하고자 한다.

제안 방법

• 이 방법은 소프트웨어 컴포넌트, 하드웨어 아키텍처, 데이터 할당을 기술하기 위해 MARTE 프로파일이 강화된 UML 기반 응용 프로그램 모델을 사용한다.
• QVTO 기반의 변환 체인을 통해 고수준 모델을 성능 주석이 추가된 중간 모델로 변환한다.
• Acceleo 템플릿을 사용해 중간 모델에서 OpenCL 코드를 생성하며, 변환 과정에서 최적화를 적용한다.
• 성능 인식 전환은 불필요한 호스트에서 디바이스로의 전송과 디바이스에서 호스트로의 전송을 탐지하고 제거한다.
• 작업의 다중성에 기반해 워크그룹과 워크아이템의 자동 토폴로지 생성을 지원한다.
• 메모리 계층 인식 기능을 모델에 통합하여 변수를 적절한 메모리 영역(글로벌, 로컬, 프라이빗, 상수)에 할당한다.

실험 결과

연구 질문

• RQ1 UML과 MARTE를 사용한 MDE 기법이 GPU 아키텍처에서 경쟁 가능한 성능을 달성하는 OpenCL 코드를 생성할 수 있는가?
• RQ2 특히 메모리 전송 오버헤드를 줄이는 데 있어 자동 최적화의 효과는 어떠한가?
• RQ3 자동으로 생성된 코드가 수작업 최적화된 OpenCL 구현의 성능에 얼마나 가까이 도달할 수 있는가?
• RQ4 모델 기반 접근법은 저수준 GPU 프로그래밍 복잡성을 추상화하면서도 고성능을 유지할 수 있는가?

주요 결과

• MDE 파이프라인을 통해 생성된 최적화된 OpenCL 코드는 순차적 CPU 실행 대비 10배의 성능 향상을 달성했다.
• 프레임워크는 지능적인 메모리 전송 최적화를 통해 호스트에서 디바이스로의 전송 시간을 약 30% 감소시키고, 디바이스에서 호스트로의 전송 시간을 70% 감소시켰다.
• 최적화된 버전은 비최적화된 생성된 OpenCL 코드 대비 25%의 성능 향상을 기록했다.
• 자동으로 생성된 코드의 구조와 최적화 결정은 수작업 최적화된 구현과 유사하여, 모델 기반 접근법의 강력한 표현력을 보여주었다.
• 비최적화된 버전에서 메모리 전송 오버헤드가 총 GPU 실행 시간의 70% 이상을 차지하여 성능에 미치는 영향이 크다는 점을 확인했다.
• 결과적으로, MARTE를 사용한 MDE는 H.263 다운스케일링과 같은 복잡한 신호 처리 워크로드에 대해서도 고성능 GPU 코드를 효과적으로 모델링하고 생성할 수 있음을 확인했다.