[论文解读] Automated Space/Time Scaling of Streaming Task Graph

Hossein Omidian, Guy Lemieux|arXiv (Cornell University)|Jun 12, 2016

Parallel Computing and Optimization Techniques参考文献 7被引用 3

一句话总结

本文提出了一种用于FPGA上大规模并行处理器阵列（MPPA）的流任务图（STG）的自动化高层次综合（HLS）工具，通过节点复制、拆分和组合实现动态面积-吞吐量权衡。该方法结合了整数线性规划（ILP）与一种新型启发式算法，以优化空间/时间扩展，结果表明启发式算法在发现形式化方法无法触及的更优设计点方面优于ILP。

ABSTRACT

In this paper, we describe a high-level synthesis (HLS) tool that automatically allows area/throughput trade-offs for implementing streaming task graphs (STG). Our tool targets a massively parallel processor array (MPPA) architecture, very similar to the Ambric MPPA chip architecture, which is to be implemented as an FPGA overlay. Similar to Ambric tools, our HLS tool accepts a STG as input written in a subset of Java and a structural language in the style of a Kahn Processing Network (KPN). Unlike the Ambric tools, our HLS tool analyzes the parallelism internal to each Java "node" and evaluates the throughput and area of several possible implementations. It then analyzes the full graph for bottlenecks or excess compute capacity, selects an implementation for each node, and even considers replicating or splitting nodes while either minimizing area (for a fixed throughput target), or maximizing throughput (for a fixed area target). In addition to traditional node selection and replication methods used in prior work, we have uniquely implemented node combining and splitting to find a better area/throughput trade-off. We present two optimization approaches, a formal ILP formulation and a heuristic solution. Results show that the heuristic is more flexible and can find design points not available to the ILP, thereby achieving superior results.

研究动机与目标

• 为FPGA上的MPPA架构实现流任务图（STG）的自动化、高层次综合。
• 通过运行时对任务图组件的优化，支持动态的面积/吞吐量权衡。
• 在先前工作的基础上，引入节点合并与拆分，而不仅限于复制与选择。
• 开发形式化（ILP）与启发式优化策略，以实现可扩展的设计空间探索。
• 通过启发式方法相比基于ILP的方法，展示更优的设计点发现能力。

提出的方法

• 该工具接受以Java子集和Kahn进程网络（KPN）风格结构语言描述的STG。
• 分析每个STG节点内部的固有并行性，以评估多种实现选项在吞吐量与面积方面的表现。
• 进行系统级分析，以检测图中是否存在瓶颈或计算资源利用率不足的情况。
• 应用节点复制、拆分与合并，以探索多样化的面积-吞吐量权衡。
• 将优化问题形式化为整数线性规划（ILP）以获得形式化解，并实现一种启发式算法以实现更广泛的空间探索。
• 启发式方法能够发现非ILP可行的设计点，从而提升灵活性与性能。

实验结果

研究问题

• RQ1 自动化HLS工具能否有效探索MPPA架构下流任务图的设计空间？
• RQ2 与传统的复制与选择相比，节点合并与拆分在改善面积-吞吐量权衡方面有何优势？
• RQ3 在寻找最优设计点方面，启发式方法与基于ILP的优化相比性能如何？
• RQ4 启发式方法能否发现ILP形式化无法达到的更优设计点？
• RQ5 所提出的方法在固定面积约束下提升吞吐量，或在固定吞吐量目标下降低面积方面，改善程度如何？

主要发现

• 启发式优化方法发现了ILP公式无法触及的设计点，表明其在设计空间探索中具有更高的灵活性。
• 与ILP相比，启发式方法在复杂且不规则的任务图中实现了更优的面积-吞吐量权衡。
• 节点合并与拆分技术显著扩展了设计空间，从而实现了对硬件资源的更优利用。
• 该工具成功支持了面积最小化（固定吞吐量）与吞吐量最大化（固定面积）的设计目标。
• 结果验证了在FPGA-based MPPA架构上，结合运行时感知优化的高层次综合在流工作负载中的有效性。