[论文解读] Massively Parallel Processor Architectures for Resource-aware Computing

Vahid Lari, Alexandru Tanase+2 more|arXiv (Cornell University)|May 12, 2014

Radiation Effects in Electronics参考文献 20被引用 6

一句话总结

本文提出了一种侵入式紧密耦合处理器阵列（TCPAs），这是一类专为资源感知计算而设计的大规模并行可重构架构。通过支持动态资源分配、自适应能力以及按需空间冗余，TCPAs 在信号与图像处理等特定领域流式工作负载中实现了性能、面积和能效的优化。

ABSTRACT

We present a class of massively parallel processor architectures called invasive tightly coupled processor arrays (TCPAs). The presented processor class is a highly parameterizable template, which can be tailored before runtime to fulfill costumers' requirements such as performance, area cost, and energy efficiency. These programmable accelerators are well suited for domain-specific computing from the areas of signal, image, and video processing as well as other streaming processing applications. To overcome future scaling issues (e.g., power consumption, reliability, resource management, as well as application parallelization and mapping), TCPAs are inherently designed in a way to support self-adaptivity and resource awareness at hardware level. Here, we follow a recently introduced resource-aware parallel computing paradigm called invasive computing where an application can dynamically claim, execute, and release resources. Furthermore, we show how invasive computing can be used as an enabler for power management. Finally, we will introduce ideas on how to realize fault-tolerant loop execution on such massively parallel architectures through employing on-demand spatial redundancies at the processor array level.

研究动机与目标

• 应对未来大规模并行系统中日益增长的功耗、可靠性及高效资源管理挑战。
• 在运行时实现硬件资源的动态自适应，以匹配应用需求。
• 支持对高吞吐量和低延迟有要求的领域特定计算工作负载。
• 将自适应性和容错能力集成到硬件设计中，以提升系统鲁棒性与效率。
• 提供可参数化的处理器架构，使其在运行前可根据性能、面积和能效约束进行定制。

提出的方法

• 设计一种高度可参数化的紧密耦合处理器阵列（TCPAs）模板，以支持针对特定应用需求的定制化。
• 在硬件层面实现侵入式计算原理，使应用程序能够动态申请、执行并释放处理资源。
• 通过将资源分配与工作负载需求对齐，并支持动态电压与频率调节，集成功耗管理机制。
• 在处理器阵列级别采用按需空间冗余，以在循环执行期间实现容错。
• 采用模块化、可扩展的架构，支持流式应用中的细粒度与粗粒度并行。
• 在处理器结构中嵌入运行时资源感知能力，以实现实时自适应及应用程序的高效映射。

实验结果

研究问题

• RQ1 如何设计大规模并行处理器架构，以支持动态、由应用驱动的资源分配？
• RQ2 哪些硬件级机制能够实现在并行处理器阵列中的自适应性与资源感知？
• RQ3 如何利用侵入式计算原理提升特定领域加速器的能效？
• RQ4 哪些技术能够在不引入持续开销的前提下实现并行架构的容错？
• RQ5 如何对处理器阵列进行参数化，以满足多样化的性能、面积和能效约束？

主要发现

• 所提出的TCPA架构通过侵入式计算实现了动态资源分配，使应用程序能够在运行时申请和释放硬件资源。
• 该架构通过将资源使用与实际工作负载需求对齐，实现了更高的能效。
• 按需空间冗余在循环执行期间实现了容错，而无需永久冗余。
• 可参数化设计允许根据性能、面积和能效进行定制，使其适用于领域特定应用。
• 在硬件层面集成自适应能力，支持未来并行系统中可扩展且可靠的执行。
• 该方法在信号、图像和视频处理等高吞吐量、低延迟的流式应用中具有可行性。