[论文解读] Performance Engineering for a Medical Imaging Application on the Intel Xeon Phi Accelerator

Johannes Hofmann, Jan Treibig+2 more|arXiv (Cornell University)|Dec 17, 2013

Parallel Computing and Optimization Techniques参考文献 8被引用 9

一句话总结

本文针对英特尔至强融核（Xeon Phi）加速器，采用手工优化的汇编语言与向量化技术，对三维锥束CT重建的Feldkamp-Davis-Kress（FDK）算法进行了优化。尽管在512³体素重建中达到8.5 GUp/s的性能，但由于双线性插值效率低下及延迟隐藏能力有限，与GPU相比仍显著落后——仅达到NVIDIA GeForce GTX 680 GPU性能的1/8，后者凭借其线程束级执行与纹理单元实现了更优的延迟隐藏。

ABSTRACT

We examine the Xeon Phi, which is based on Intel's Many Integrated Cores architecture, for its suitability to run the FDK algorithm--the most commonly used algorithm to perform the 3D image reconstruction in cone-beam computed tomography. We study the challenges of efficiently parallelizing the application and means to enable sensible data sharing between threads despite the lack of a shared last level cache. Apart from parallelization, SIMD vectorization is critical for good performance on the Xeon Phi; we perform various micro-benchmarks to investigate the platform's new set of vector instructions and put a special emphasis on the newly introduced vector gather capability. We refine a previous performance model for the application and adapt it for the Xeon Phi to validate the performance of our optimized hand-written assembly implementation, as well as the performance of several different auto-vectorization approaches.

研究动机与目标

• 评估英特尔至强融核加速器在使用FDK算法进行高性能三维医学图像重建中的适用性。
• 解决由于缺乏共享最后一级缓存而导致的线程级数据共享与内存访问模式挑战。
• 通过底层优化手段（包括手工编写汇编语言与使用AVX-512指令集向量化）提升性能。
• 将手工优化代码与编译器自动生成的向量化代码进行对比，并评估其相对于当前最先进GPU实现的性能表现。

提出的方法

• 针对至强融核512位SIMD向量单元，手工实现并优化了FDK内核的汇编语言版本。
• 通过微基准测试分析向量指令性能，尤其关注新型gather指令与内存访问模式。
• 采用性能建模方法验证并预测优化后内核在至强融核架构上的行为表现。
• 使用RabbitCT基准测试框架，确保在不同平台间评估的一致性与可比性。
• 采用多种编译策略进行对比：OpenMP配合#pragma simd、ISPC，以及Intel C编译器的自动向量化。
• 评估4路SMT与硬件上下文切换在隐藏内存延迟方面的作用，并与GPU的线程束调度机制进行对比。

实验结果

研究问题

• RQ1 至强融核缺乏共享最后一级缓存，如何影响FDK重建中线程级数据共享与性能表现？
• RQ2 与自动生成向量化代码相比，手工优化的汇编语言与AVX-512向量化技术在至强融核上能带来多大性能提升？
• RQ3 尽管理论峰值性能极高，为何至强融核在性能上仍显著落后于NVIDIA GeForce GTX 680等GPU？
• RQ4 内存访问模式与延迟隐藏机制（如SMT与线程束调度）在至强融核与GPU之间的性能差距中扮演何种角色？
• RQ5 在内存容量与带宽至关重要的大规模体素CT重建场景中，至强融核是否可能超越GPU？

主要发现

• 手工优化的汇编实现达到8.5 GUp/s的512³体素重建性能，优于自动生成向量化代码（6.3–6.4 GUp/s）与OpenMP配合#pragma simd的实现（5.6 GUp/s）。
• 至强融核的4路SMT无法有效隐藏非连续内存访问的延迟，特别是3.7周期延迟的向量gather指令。
• NVIDIA GeForce GTX 680 GPU在512³体素重建中达到67.7 GUp/s，性能超过至强融核8倍以上，主要得益于专用纹理单元对双线性插值的加速。
• 双线性插值占每轮内核迭代97个时钟周期中的88个（超过90%），GPU可单指令完成，而至强融核需多条指令实现。
• 性能差距不能仅由峰值FLOPS或内存带宽解释，而源于延迟隐藏机制与图形工作负载专用硬件的架构差异。
• 将至强融核的优化技术反向移植至基于CPU的fastrabbit实现，使其性能提升25%，表明优化经验具有可迁移性。