[論文レビュー] Large Language Model Agent as a Mechanical Designer

Yayati Jadhav, Amir Barati Farimani|arXiv (Cornell University)|Apr 26, 2024

Model-Driven Software Engineering Techniques被引用数 8

ひとこと要約

本論文は、微調整を行わない事前学習済み大型言語モデル（LLM）とFEMモジュールを組み合わせて、2Dトラス設計を自律的に生成・評価・改良する手法を示す。NSGA-IIよりも収束が速く、FEM評価回数が少なくなる一方で、モデルサイズと温度設定が性能に影響を与える。

ABSTRACT

Conventional mechanical design follows an iterative process in which initial concepts are refined through cycles of expert assessment and resource-intensive Finite Element Method (FEM) analysis to meet performance goals. While machine learning models have been developed to assist in parts of this process, they typically require large datasets, extensive training, and are often tailored to specific tasks, limiting their generalizability. To address these limitations, we propose a framework that leverages a pretrained Large Language Model (LLM) in conjunction with an FEM module to autonomously generate, evaluate, and refine structural designs based on performance specifications and numerical feedback. The LLM operates without domain-specific fine-tuning, using general reasoning to propose design candidates, interpret FEM-derived performance metrics, and apply structurally sound modifications. Using 2D truss structures as a testbed, we show that the LLM can effectively navigate highly discrete and multi-faceted design spaces, balance competing objectives, and identify convergence when further optimization yields diminishing returns. Compared to Non-dominated Sorting Genetic Algorithm II (NSGA-II), our method achieves faster convergence and fewer FEM evaluations. Experiments with varying temperature settings (0.5, 1.0, 1.2) and model sizes (GPT-4.1 and GPT-4.1-mini) indicate that smaller models yield higher constraint satisfaction with fewer steps, while lower temperatures enhance design consistency. These results establish LLMs as a promising new class of reasoning-based, natural language-driven optimizers for autonomous design and iterative structural refinement.

研究の動機と目的

• 機械設計自動化のための大規模なタスク特化データセットや広範なファインチューニングへの依存を減らす動機づけ。
• 事前学習済みLLMとFEMモジュールを組み合わせ、性能仕様に基づいて自律的に構造を設計・改良するフレームワークを提案する。
• 離散的設計空間のナビゲーションと収束挙動を評価するため、2Dトラスのテストベッドでフレームワークを評価する。

提案手法

• 領域特化のファインチューニングを行わず、一般的な推論を用いて設計候補を生成するために事前学習済みLLMを使用する。
• 提案された設計の性能指標を計算するためFEMモジュールを組み込む。
• FEMのフィードバックをLLM内で解釈し、構造的に健全な修正を導く。
• 収束速度とFEM評価回数の観点で、LLM主導設計とNSGA-IIを比較する。
• 温度設定（0.5、1.0、1.2）とモデルサイズ（GPT-4.1およびGPT-4.1-mini）が結果の品質と一貫性に及ぼす影響を調査する。

実験結果

リサーチクエスチョン

• RQ1 事前学習済みのLLMは、ファインチューニングなしで高度に離散的で多面的な構造設計空間をナビゲートできるか？
• RQ2 LLMベースのアプローチは、競合する設計目的をバランスさせ、さらなる最適化が報われなくなると収束するか？
• RQ3 収束速度とFEM評価回数の点で、LLM駆動法はNSGA-IIとどのように比較されるか？
• RQ4 温度設定とモデルサイズが制約充足と設計の一貫性に与える影響は何か？

主な発見

• LLMアプローチは、2Dトラス課題においてNSGA-IIより速い収束と少ないFEM評価を達成する。
• 小型モデルは、より大きなモデルと比べてより少ないステップで制約充足性が高い。
• 低い温度設定は、繰り返しで設計の一貫性を向上させる傾向がある。
• 本フレームワークは、LLMsが推論ベースの自然言語駆動最適化手法として、自律設計と反復改良を実現できることを示している。