[论文解读] IronMan: GNN-assisted Design Space Exploration in High-Level Synthesis via Reinforcement Learning

Nan Wu, Yuan Xie+1 more|arXiv (Cornell University)|Feb 16, 2021

Software Engineering Research参考文献 18被引用 8

一句话总结

IronMan 是一个端到端框架，集成了基于图神经网络（GNN）的性能预测器（GPP）、基于强化学习（RL）的设计空间探索引擎（RLMD）以及代码转换器（CT），以实现在高层次综合（HLS）中灵活、准确且快速的设计空间探索。与元启发式方法和HLS工具相比，其速度最高提升400倍，DSP使用量减少2.54倍，延迟最高降低6倍，同时完全满足用户指定的DSP约束，并在LUT减少方面优于遗传算法和模拟退火算法12.7%和12.9%。

ABSTRACT

Despite the great success of High-Level Synthesis (HLS) tools, we observe several unresolved challenges: 1) the high-level abstraction of programming styles in HLS sometimes conceals optimization opportunities; 2) existing HLS tools do not provide flexible trade-off (Pareto) solutions among different objectives and constraints; 3) the actual quality of the resulting RTL designs is hard to predict. To address these challenges, we propose an end-to-end framework, namelyIronMan. The primary goal is to enable a flexible and automated design space exploration (DSE), to provide either optimal solutions under user-specified constraints, or various trade-offs among different objectives (such as different types of resources, area, and latency). Such DSE either requires tedious manual efforts or is not achievable to attain these goals through existing HLS tools. There are three components in IronMan: 1) GPP, a highly accurate graph-neural-network-based performance and resource predictor; 2) RLMD, a reinforcement-learning-based multi-objective DSE engine that explores the optimal resource allocation strategy, to provide Pareto solutions between different objectives; 3) CT, a code transformer to assist RLMD and GPP, which extracts the data flow graph from original HLS C/C++ and automatically generates synthesizable code with HLS directives. The experimental results show that: 1) GPP achieves high prediction accuracy, reducing prediction errors of HLS tools by 10.9x in resource utilization and 5.7x in timing; 2) RLMD obtains optimal or Pareto solutions that outperform the genetic algorithm and simulated annealing by 12.7% and 12.9%, respectively; 3) IronMan is able to find optimized solutions perfectly matching various DSP constraints, with 2.54x fewer DSPs and up to 6x shorter latency than those of HLS tools while being up to 400x faster than the heuristic algorithms and HLS tools.

研究动机与目标

• 解决当前HLS工具在用户指定约束下探索多项目标（如面积、延迟、资源类型）之间灵活权衡的局限性。
• 克服现有模型在HLS设计中对不规则数据路径和复杂循环结构预测精度低的问题。
• 实现自动化、高精度且快速的设计空间探索（DSE），支持约束优化与Pareto前沿发现。
• 通过基于图的快速预测和学习驱动的探索替代耗时的HLS综合与实现周期，减少依赖。
• 提供可扩展的端到端解决方案，统一集成代码转换、性能预测与基于RL的优化。

提出的方法

• 代码转换器（CT）解析C/C++ HLS代码并提取数据流图（DFG），为下游处理提供控制与数据依赖关系的结构化表示。
• 基于图神经网络（GNN）的性能预测器（GPP）直接从原始DFG预测资源使用量和时序，无需完整HLS综合即可实现高精度。
• 强化学习（RL）代理（RLMD）通过学习最优指令分配（如循环展开、流水线）来执行DSE，其奖励基于多目标优化。
• RL代理在探索与利用之间取得平衡，通过与GPP及用户指定约束的交互学习，发现Pareto最优解。
• 该框架端到端训练：CT生成DFG，GPP提供快速反馈，RLMD迭代优化指令策略以达成目标。
• 对RL代理进行微调可实现解质量与推理时间之间的权衡，支持通过调整episode数量进行定制。

实验结果

研究问题

• RQ1 基于GNN的预测器是否能在不依赖完整综合或实现的情况下，对HLS设计实现高精度性能预测？
• RQ2 强化学习代理是否能有效探索HLS中复杂、多维的设计空间，以在面积、延迟和资源类型之间找到Pareto最优解？
• RQ3 代码转换器、GNN预测器与RL引擎的集成是否能实现比传统元启发式方法或商用HLS工具更快、更准确的DSE？
• RQ4 该框架在满足用户指定约束（如DSP限制）的同时，能在多大程度上最小化资源使用量和延迟？
• RQ5 该框架在具有不规则数据路径和复杂循环结构的真实世界HLS基准中，其可扩展性如何？

主要发现

• 与现有HLS工具相比，GPP在资源使用量上的预测误差降低10.9倍，时序预测误差降低5.7倍，且在不到一秒内直接从原始DFG实现高精度预测。
• 在相同DSP约束下优化时，RLMD在LUT减少方面分别优于遗传算法（GA）和模拟退火（SA）12.7%和12.9%。
• IronMan在40个真实案例基准中的97.5%情况下成功满足用户指定的DSP约束，经微调后提升至100%，同时相比Vivado HLS将DSP使用量减少2.54倍。
• IronMan的延迟相比Vivado HLS最高缩短6倍，后者因在DSP约束下部分展开导致延迟增加。
• 该框架相比元启发式技术和HLS工具最快提升400倍，推理时间仅需数秒，可实现对大规模设计空间的快速探索。
• 经微调后，IronMan在LUT使用量上额外减少8.9%，LUT利用率分别较GA和SA降低7.7%和5.9%。