[论文解读] LLM4EDA: Emerging Progress in Large Language Models for Electronic Design Automation

Ruizhe Zhong, Xingbo Du+8 more|arXiv (Cornell University)|Dec 28, 2023

Machine Learning in Materials Science被引用 9

一句话总结

对大语言模型如何帮助 EDA 的系统综述，涵盖助理聊天机器人、HDL/脚本生成、HDL 验证/分析，以及使用的数据集和骨架，以及在逻辑综合、物理设计和多模态集成等未来方向。

ABSTRACT

Driven by Moore's Law, the complexity and scale of modern chip design are increasing rapidly. Electronic Design Automation (EDA) has been widely applied to address the challenges encountered in the full chip design process. However, the evolution of very large-scale integrated circuits has made chip design time-consuming and resource-intensive, requiring substantial prior expert knowledge. Additionally, intermediate human control activities are crucial for seeking optimal solutions. In system design stage, circuits are usually represented with Hardware Description Language (HDL) as a textual format. Recently, Large Language Models (LLMs) have demonstrated their capability in context understanding, logic reasoning and answer generation. Since circuit can be represented with HDL in a textual format, it is reasonable to question whether LLMs can be leveraged in the EDA field to achieve fully automated chip design and generate circuits with improved power, performance, and area (PPA). In this paper, we present a systematic study on the application of LLMs in the EDA field, categorizing it into the following cases: 1) assistant chatbot, 2) HDL and script generation, and 3) HDL verification and analysis. Additionally, we highlight the future research direction, focusing on applying LLMs in logic synthesis, physical design, multi-modal feature extraction and alignment of circuits. We collect relevant papers up-to-date in this field via the following link: https://github.com/Thinklab-SJTU/Awesome-LLM4EDA.

研究动机与目标

• 在日益复杂的 EDA、PPA 约束背景下，使用 LLMs 推动芯片设计自动化。
• 将当前在 EDA 中的 LLM 应用分为助手聊天机器人、HDL/脚本生成和 HDL 验证/分析三类。
• 总结用于 LLM4EDA 的数据集、模型骨干及微调策略。
• 突出挑战及未来方向，包括逻辑综合、物理设计和多模态电路对齐。

提出的方法

• 对 LLM4EDA 应用进行综述和分类，结合代表性工作与体系化分析。
• 汇编用于 EDA 领域特定微调的数据集和骨干模型。
• 讨论 HDL 生成的评估指标（语法、功能性、PPA）与验证/分析。
• 综合 HDL 生成与验证工作流中的体系结构趋势、提示工程与数据来源。
• 提出在 EDA 中实现多模态电路建模与长链 PPA 反馈的方向。

实验结果

研究问题

• RQ1 LLMs 在 EDA 中的主要应用方式是什么（助手聊天机器人、HDL/脚本生成、HDL 验证/分析）？
• RQ2 哪些数据集、模型骨干和微调策略推动了 LLM4EDA 的进展？
• RQ3 HDL 生成与验证如何评估，当前评估框架有哪些不足？
• RQ4 在 EDA 中，哪些未来方向（逻辑综合、物理设计、多模态数据、PPA 反馈）对 LLMs 有潜力？

主要发现

• 在 EDA 中，LLMs 已被作为助手聊天机器人、HDL/代码生成工具以及 HDL 验证/分析助手进行探索。
• 领域特定的数据集和微调（如指令微调、SFT、QLoRA）提升了 EDA 任务的 LLM 性能。
• 评估框架在生成的 HDL/代码上考虑语法、功能性和设计质量（PPA），RTL 生成中使用诸如 pass@k 的基准。
• 多种骨干模型（LLaMA2、GPT-3.5/4、GPT-4 变体）和微调方法已应用于 HDL 相关任务。
• 未来方向包括将 LLMs 集成到逻辑综合和物理设计中，以及构建多模态、与电路对齐的预训练模型。）