[论文解读] Large-Scale Geospatial Processing on Multi-Core and Many-Core Processors: Evaluations on CPUs, GPUs and MICs.

Jianting Zhang, Simin You|arXiv (Cornell University)|Mar 4, 2014

Data Management and Algorithms参考文献 13被引用 5

一句话总结

本文使用真实世界数据，在多核CPU、GPU和英特尔MIC加速器上评估了大规模地理空间处理——特别是点到多段线最短距离（P2P）和点在多边形内（PIP）测试——的性能。结果表明，利用CPU和MIC上的向量处理单元（VPU）可使处理速度比GPU快数倍，并提出一种领域特定语言（DSL）方法，无需手动编写低级内嵌代码即可高效利用SIMD能力，从而提升代码的可移植性和可扩展性。

ABSTRACT

Geospatial Processing, such as queries based on point-to-polyline shortest distance and point-in-polygon test, are fundamental to many scientific and engineering applications, including post-processing large-scale environmental and climate model outputs and analyzing traffic and travel patterns from massive GPS collections in transportation engineering and urban studies. Commodity parallel hardware, such as multi-core CPUs, many-core GPUs and Intel MIC accelerators, provide enormous computing power which can potentially achieve significant speedups on existing geospatial processing and open the opportunities for new applications. However, the realizable potential for geospatial processing on these new hardware devices is largely unknown due to the complexity in porting serial algorithms to diverse parallel hardware platforms. In this study, we aim at experimenting our data-parallel designs and implementations of point-to-polyline shortest distance computation (P2P) and point-in-polygon topological test (PIP) on different commodity hardware using real large-scale geospatial data, comparing their performance and discussing important factors that may significantly affect the performance. Our experiments have shown that, while GPUs can be several times faster than multi-core CPUs without utilizing the increasingly available SIMD computing power on Vector Processing Units (VPUs) that come with multi-core CPUs and MICs, multi-core CPUs and MICs can be several times faster than GPUs when VPUs are utilized. By adopting a Domain Specific Language (DSL) approach to exploiting the VPU computing power in geospatial processing, we are free from programming SIMD intrinsic functions directly which makes the new approach more effective, portable and scalable. Our designs, implementations and experiments can serve as case studies for parallel geospatial computing on modern commodity parallel hardware.

研究动机与目标

• 评估大规模地理空间处理工作负载（P2P和PIP）在通用并行硬件平台上的性能。
• 识别将串行地理空间算法移植到不同并行架构时的性能瓶颈和关键影响因素。
• 探索多核CPU和英特尔MIC中向量处理单元（VPU）在加速地理空间计算方面的潜力。
• 开发一种可移植且可扩展的编程方法，高效利用SIMD能力，而无需直接使用低级内嵌函数。
• 为现代通用硬件上的并行地理空间计算提供实用案例研究。

提出的方法

• 设计用于点到多段线最短距离（P2P）和点在多边形内（PIP）拓扑测试的数据并行算法，以利用数据级并行性。
• 使用统一的编程接口在多核CPU、GPU和英特尔MIC加速器上实现算法，以确保可移植性。
• 采用领域特定语言（DSL）抽象并自动生成向量处理单元（VPU）的优化代码，避免手动编写SIMD内嵌代码。
• 利用真实的大规模地理空间数据集，在相同工作负载下评估不同硬件平台的性能。
• 比较CPU、GPU和MIC在启用和禁用VPU使用情况下的执行时间和加速比。
• 分析内存访问模式、数据布局和指令级并行性对整体性能的影响。

实验结果

研究问题

• RQ1 在使用真实大规模数据的情况下，P2P和PIP地理空间操作在多核CPU、GPU和英特尔MIC加速器上的性能特征如何比较？
• RQ2 在地理空间工作负载中，CPU和MIC中的向量处理单元（VPU）相较于传统GPU加速，性能提升程度有多大？
• RQ3 哪些关键实现因素——如数据布局、内存访问和并行化粒度——在不同架构上显著影响性能？
• RQ4 领域特定语言（DSL）方法在无需低级内嵌代码的情况下，有效实现可移植且可扩展的SIMD代码生成方面有多高效？
• RQ5 在大规模地理空间处理中，经VPU优化的CPU和MIC实现能否超越基于GPU的实现？

主要发现

• 当未使用VPU功能时，GPU在P2P和PIP计算上相比多核CPU可实现显著加速。
• 当利用向量处理单元（VPU）时，多核CPU和英特尔MIC在相同地理空间工作负载下可比GPU快数倍。
• 基于DSL的方法可在不编写低级内嵌代码的情况下有效利用VPU上的SIMD指令，从而提升开发效率和代码可维护性。
• VPU利用带来的性能提升非常显著，是实现在现代CPU和MIC架构上实现最佳性能的关键因素。
• 内存访问模式和数据布局对性能有显著影响，尤其在GPU和MIC平台上，必须进行仔细优化。
• 本研究证明，当使用VPU感知的优化进行正确编程时，现代通用并行硬件在大规模地理空间处理中的性能可优于传统GPU加速。