[논문 리뷰] Performance Engineering for a Medical Imaging Application on the Intel Xeon Phi Accelerator

Johannes Hofmann, Jan Treibig외 2명|arXiv (Cornell University)|2013. 12. 17.

Parallel Computing and Optimization Techniques참고 문헌 8인용 수 9

한 줄 요약

이 논문은 수작업 최적화된 어셈블리어와 벡터화 기법을 사용하여 인텔 Xeon Phi 가속기에서 3D 콘빔 CT 재구성에 대한 Feldkamp-Davis-Kress (FDK) 알고리즘을 최적화한다. 512³ 볼륨에서 8.5 GUp/s를 달성했지만, GPU 성능에 비해 열등하여 지포스 지티엑스 680의 1/8에 불과한 처리량을 보이며, 이는 비효율적인 이차선형 보간과 GPU의 워프 수준 실행 및 텍스처 유닛에 비해 제한된 지연 숨기기 기능 때문이었다.

ABSTRACT

We examine the Xeon Phi, which is based on Intel's Many Integrated Cores architecture, for its suitability to run the FDK algorithm--the most commonly used algorithm to perform the 3D image reconstruction in cone-beam computed tomography. We study the challenges of efficiently parallelizing the application and means to enable sensible data sharing between threads despite the lack of a shared last level cache. Apart from parallelization, SIMD vectorization is critical for good performance on the Xeon Phi; we perform various micro-benchmarks to investigate the platform's new set of vector instructions and put a special emphasis on the newly introduced vector gather capability. We refine a previous performance model for the application and adapt it for the Xeon Phi to validate the performance of our optimized hand-written assembly implementation, as well as the performance of several different auto-vectorization approaches.

연구 동기 및 목표

• FDK 알고리즘을 사용한 고성능 3D 의료 영상 재구성에 있어 인텔 Xeon Phi 가속기의 적합성을 평가하는 것.
• 공유 레벨 캐시가 없는 상황에서 스레드 수준의 데이터 공유 및 메모리 액세스 패턴 문제를 해결하는 것.
• 수작업 어셈블리어 및 AVX-512 명령어를 사용한 저수준 최적화를 통한 성능 향상.
• 수작업 최적화된 코드와 컴파일러 자동 벡터화 코드를 비교하고, 최신 GPU 구현과의 성능 상대 평가를 수행하는 것.

제안 방법

• Xeon Phi의 512비트 SIMD 벡터 유닛을 대상으로 수작업 최적화된 FDK 커널을 어셈블리어 언어로 구현.
• 벡터 명령어 성능, 특히 신규 가용 가속 지시어와 메모리 액세스 패턴을 특성화하기 위해 마이크로 벤치마크 수행.
• 최적화된 커널이 Xeon Phi 아키텍처에서 어떻게 행동할지 검증하고 예측하기 위해 성능 모델링 적용.
• 플랫폼 간 일관되고 비교 가능한 평가를 보장하기 위해 RabbitCT 벤치마킹 프레임워크 사용.
• 다양한 컴파일 전략 비교를 위해 OpenMP와 #pragma simd, ISPC, 인텔 C 컴파일러 자동 벡터화를 활용.
• 메모리 지연 숨기기 효과를 높이기 위해 4웨이 SMT와 하드웨어 컨텍스트 스위칭의 영향 평가; GPU의 워프 스케줄링과 대조 분석.

실험 결과

연구 질문

• RQ1 Xeon Phi의 공유 레벨 캐시가 없음으로 인해 스레드 수준의 데이터 공유 및 FDK 재구성 성능에 어떤 영향을 미치는가?
• RQ2 수작업 최적화된 어셈블리어와 AVX-512 벡터화가 자동 벡터화 코드 대비 Xeon Phi에서 성능 향상에 얼마나 기여하는가?
• RQ3 고이론적 피크 성능이 높음에도 불구하고 Xeon Phi가 지포스 지티엑스 680과 같은 GPU보다 성능이 열 劣하는 이유는 무엇인가?
• RQ4 메모리 액세스 패턴과 지연 숨기기 메커니즘(예: SMT 대 워프 스케줄링)은 Xeon Phi와 GPU 간 성능 격차에 어떤 역할을 하는가?
• RQ5 메모리 용량과 대역폭이 핵심인 대용량 CT 재구성 시나리오에서는 Xeon Phi가 GPU를 능가할 수 있는가?

주요 결과

• 수작업 최적화된 어셈블리어 구현은 512³ 볼륨 재구성에서 8.5 GUp/s를 달성했으며, 자동 벡터화 코드(6.3–6.4 GUp/s)와 OpenMP + #pragma simd(5.6 GUp/s)를 모두 초월했다.
• Xeon Phi의 4웨이 SMT는 비연속적 메모리 액세스의 지연을 효과적으로 숨기지 못하며, 특히 3.7 사이클 지연을 보이는 벡터 수집 명령어에서 문제가 된다.
• 지포스 지티엑스 680 GPU는 512³ 볼륨에서 67.7 GUp/s를 달성해 Xeon Phi보다 8배 이상 빠르며, 이는 이차선형 보간을 가속화하는 전용 텍스처 유닛 덕분이었다.
• 이차선형 보간은 커널 반복당 97 사이클 중 88 사이클을 차지해 90% 이상을 차지하며, GPU는 단일 명령어로 이를 처리하지만, Xeon Phi는 다수의 명령어가 필요로 한다.
• 성능 격차는 피크 FLOPS나 메모리 대역폭만으로 설명되지 않으며, 지연 숨기기 방식과 그래픽 워크로드에 특화된 하드웨어 아키텍처의 차이 때문이었다.
• Xeon Phi 최적화 기법을 CPU 기반 fastrabbit 구현으로 후행 적용함으로써 성능이 25% 향상되었으며, 이는 최적화 전략의 이식 가능성을 시사했다.