[论文解读] An Empirical Study of Intel Xeon Phi

Jianbin Fang, Ana Lucia Vărbănescu+4 more|arXiv (Cornell University)|Oct 22, 2013

Parallel Computing and Optimization Techniques参考文献 12被引用 37

一句话总结

本文对英特尔至强融核处理器进行了全面的微基准测试研究，评估其核心、内存层次结构、环形互连以及PCIe接口，以识别性能瓶颈并提出优化指导原则。作者验证了在理想条件下可达到理论峰值性能，并提出一种简化的、基于功能的模型，以指导高层次应用开发，实现性能损失最小化。

ABSTRACT

With at least 50 cores, Intel Xeon Phi is a true many-core architecture. Featuring fairly powerful cores, two cache levels, and very fast interconnections, the Xeon Phi can get a theoretical peak of 1000 GFLOPs and over 240 GB/s. These numbers, as well as its flexibility - it can be used both as a coprocessor or as a stand-alone processor - are very tempting for parallel applications looking for new performance records. In this paper, we present an empirical study of Xeon Phi, stressing its performance limits and relevant performance factors, ultimately aiming to present a simplified view of the machine for regular programmers in search for performance. To do so, we have micro-benchmarked the main hardware components of the processor - the cores, the memory hierarchies, the ring interconnect, and the PCIe connection. We show that, in ideal microbenchmarking conditions, the performance that can be achieved is very close to the theoretical peak, as given in the official programmer's guide. We have also identified and quantified several causes for significant performance penalties. Our findings have been captured in four optimization guidelines, and used to build a simplified programmer's view of Xeon Phi, eventually enable the design and prototyping of applications on a functionality-based model of the architecture.

研究动机与目标

• 理解影响英特尔至强融核多核架构的关键性能因素。
• 确定理论峰值性能（1000 GFLOPS，240 GB/s）在实际应用中是否可实现。
• 识别并量化核心、内存和互连组件中的性能损耗。
• 开发一种简化的、基于功能的至强融核模型，用于高层次应用设计与优化。

提出的方法

• 设计并执行针对性的微基准测试，以测量核心性能、内存延迟与带宽、环形互连吞吐量以及PCIe传输速率。
• 同时使用延迟导向（周期数、秒）和吞吐量导向（GFLOPS，GB/s）指标评估架构组件。
• 分析线程密度、内存访问模式和缓存一致性行为，以识别性能瓶颈。
• 基于实证发现提炼出四项优化指导原则，以指导应用程序调优。
• 构建一种简化的、基于抽象的至强融核模型，保留关键性能特征，同时省略低层级实现细节。
• 将结果与官方文档进行验证，并与现有的CPU和GPU微基准测试方法进行对比。

实验结果

研究问题

• RQ1 在受控条件下，至强融核处理器的处理核心、内存层次结构和互连的实际性能极限是什么？
• RQ2 理论峰值性能（1000 GFLOPS，240 GB/s）在真实工作负载中能在多大程度上实现？
• RQ3 至强融核应用程序性能退化的主因是什么？
• RQ4 能否构建一种简化的、基于功能的至强融核模型，使高效高层次编程成为可能且性能损失可忽略？

主要发现

• 在理想微基准测试条件下，理论峰值性能1000 GFLOPS和240 GB/s可被实现，证实了官方规格的准确性。
• 由于次优的线程调度、内存访问模式以及缓存一致性开销，特别是远程内存访问时，会产生显著的性能惩罚。
• 环形互连支持核心性能对称性，但内存带宽对数据局部性和访问模式的一致性高度敏感。
• L2缓存通过DTDs实现完全一致性，但远程L2访问引入更高延迟，影响不规则内存访问工作负载的性能。
• 最佳性能需要在每个核心的线程数和数据分区之间进行仔细平衡，以最大化内存带宽利用率。
• 所提出的简化模型有效抽象了非关键的架构细节，同时保留了关键性能语义，适用于应用开发。