[論文レビュー] LLM4EDA: Emerging Progress in Large Language Models for Electronic Design Automation

Ruizhe Zhong, Xingbo Du+8 more|arXiv (Cornell University)|Dec 28, 2023

Machine Learning in Materials Science被引用数 9

ひとこと要約

大規模言語モデルがEDAをどのように支援できるかの系統的調査であり、アシスタントチャットボット、HDL/スクリプト生成、HDL検証/分析を網羅し、使用データセットとバックボーン、論理合成、物理設計、マルチモーダル統合における将来の方向性を取り上げる。

ABSTRACT

Driven by Moore's Law, the complexity and scale of modern chip design are increasing rapidly. Electronic Design Automation (EDA) has been widely applied to address the challenges encountered in the full chip design process. However, the evolution of very large-scale integrated circuits has made chip design time-consuming and resource-intensive, requiring substantial prior expert knowledge. Additionally, intermediate human control activities are crucial for seeking optimal solutions. In system design stage, circuits are usually represented with Hardware Description Language (HDL) as a textual format. Recently, Large Language Models (LLMs) have demonstrated their capability in context understanding, logic reasoning and answer generation. Since circuit can be represented with HDL in a textual format, it is reasonable to question whether LLMs can be leveraged in the EDA field to achieve fully automated chip design and generate circuits with improved power, performance, and area (PPA). In this paper, we present a systematic study on the application of LLMs in the EDA field, categorizing it into the following cases: 1) assistant chatbot, 2) HDL and script generation, and 3) HDL verification and analysis. Additionally, we highlight the future research direction, focusing on applying LLMs in logic synthesis, physical design, multi-modal feature extraction and alignment of circuits. We collect relevant papers up-to-date in this field via the following link: https://github.com/Thinklab-SJTU/Awesome-LLM4EDA.

研究の動機と目的

• EDAの複雑さとPPA制約が増す中でLLMsを用いたチップ設計の自動化を動機づける。
• 現在のEDAにおけるLLMアプリケーションを、アシスタントチャットボット、HDL/スクリプト生成、HDL検証/分析の3分類に整理する。
• LLM4EDAのために用いられるデータセット、モデルバックボーン、微調整戦略を要約する。
• 論理合成、物理設計、マルチモーダル回路整合性など、課題と今後の方向性を強調する。

提案手法

• 代表的な研究と体系化を含むLLM4EDAアプリケーションの調査と分類。
• EDA領域におけるドメイン特化微調整のためのデータセットとバックボーンの整理。
• HDL生成の評価指標（構文、機能性、PPA）と検証/分析の評価についての検討。
• HDL生成と検証ワークフロー全体におけるアーキテクチャ動向、プロンプト、データソースの統合。
• EDAにおけるマルチモーダル回路モデルと長期的PPAフィードバックの方向性を提案。

実験結果

リサーチクエスチョン

• RQ1 EDAでLLMsが適用されている主な方法は何か（アシスタントチャットボット、HDL/スクリプト生成、HDL検証/分析）？
• RQ2 LLM4EDAの進展を支えたデータセット、モデルバックボーン、微調整戦略は何か？
• RQ3 HDL生成と検証はどのように評価されており、現在の評価フレームワークにはどのようなギャップがあるか？
• RQ4 EDAにおけるLLMsにとって将来有望な方向性（論理合成、物理設計、マルチモーダルデータ、PPAフィードバック）は何か？

主な発見

• LLMsはEDAにおいてアシスタントチャットボット、HDL/コード生成ツール、HDL検証/分析アシスタントとして活用されてきた。
• ドメイン特化データセットと微調整（例：指示調整、SFT、QLoRA）がEDAタスクにおけるLLMの性能を高める。
• 生成されたHDL/コードの評価フレームワークは構文、機能性、設計品質（PPA）を考慮し、RTL生成にはpass@kのようなベンチマークが用いられている。
• 複数のバックボーン（LLaMA2、GPT-3.5/4、GPT-4派生）と微調整アプローチがHDL関連タスクに適用されている。
• 今後の方向性には、論理合成と物理設計へのLLMsの統合、マルチモーダルで回路整合性を持つ事前学習モデルの構築が含まれる。