[論文レビュー] Biologically Inspired Design Concept Generation Using Generative Pre-Trained Transformers

Qihao Zhu, Xinyu Zhang+1 more|arXiv (Cornell University)|Dec 26, 2022

Design Education and Practice被引用数 4

ひとこと要約

本論文は、生物学的特徴を工学的解決策にマッピングすることで、生物学的インスピレーションを受ける設計（BID）の概念生成を自動化する、GPT-3に基づくアプローチを提案する。生物学的特徴から工学的解決策へのマッピングを実現するため、3種類の概念生成器とマシン評価器を微調整し、関連性の高い類似例を生成・評価する。実世界の軽量飛行車プロジェクトにおける実装において、優れた性能を示した。

ABSTRACT

Biological systems in nature have evolved for millions of years to adapt and survive the environment. Many features they developed can be inspirational and beneficial for solving technical problems in modern industries. This leads to a specific form of design-by-analogy called bio-inspired design (BID). Although BID as a design method has been proven beneficial, the gap between biology and engineering continuously hinders designers from effectively applying the method. Therefore, we explore the recent advance of artificial intelligence (AI) for a data-driven approach to bridge the gap. This paper proposes a generative design approach based on the generative pre-trained language model (PLM) to automatically retrieve and map biological analogy and generate BID in the form of natural language. The latest generative pre-trained transformer, namely GPT-3, is used as the base PLM. Three types of design concept generators are identified and fine-tuned from the PLM according to the looseness of the problem space representation. Machine evaluators are also fine-tuned to assess the mapping relevancy between the domains within the generated BID concepts. The approach is evaluated and then employed in a real-world project of designing light-weighted flying cars during its conceptual design phase The results show our approach can generate BID concepts with good performance.

研究の動機と目的

• 生物学的システムと工学的設計の間の持続的格差を是正するため、データ駆動型でAI支援される類似例生成を可能にすること。
• 大規模言語モデルを用いて、スケーラブルで自然言語ベースの方法として、生物学的インスピレーションを受ける設計（BID）概念を生成すること。
• 異なる抽象度の問題空間表現を用いて、生成された生物学的から工学的への類似例の関連性と質を微調整された生成モデルおよび評価器で生成・評価すること。
• 実世界の工学的設計文脈、特に軽量飛行車の概念設計において、そのアプローチを検証すること。

提案手法

• GPT-3をベースとする生成的事前学習言語モデル（PLM）を微調整し、問題空間の抽象度が異なる3種類の設計概念生成器を構築する。
• 階層的プロンプト戦略を用いて、モデルが生物学的特徴を特定し、それらを工学的解決策にマッピングするのを支援する。
• 微調整済みモデルを用いてマシン評価器を訓練し、生物学的ドメインと工学的ドメイン間の類似例の関連性と質を評価する。
• 少量の例を用いたプロンプトと少量の例を用いた微調整を適用し、リソースが限られた設計状況におけるゼロショット一般化と類似例の質を向上させる。
• フレームワークを実世界の軽量飛行車の概念設計プロジェクトに適用し、出力の関連性と創造性を評価する。
• 定性的な評価とベースライン手法との比較を通じて結果を検証し、類似例の関連性と多様性が向上していることを示した。

実験結果

リサーチクエスチョン

• RQ1 生成的事前学習トランスフォーマー（GPT-3）は、高い関連性と多様性を備えた生物学的インスピレーションを受ける設計概念を効果的に生成できるか？
• RQ2 問題空間表現における異なる抽象度のレベルが、生成された類似例の質と関連性にどのように影響するか？
• RQ3 微調整されたマシン評価器は、生物学的ドメインと工学的ドメイン間のマッピングの関連性をどの程度正確に評価できるか？
• RQ4 提案手法は、軽量飛行車の概念設計といった実世界の工学的設計タスクを支援できるか？
• RQ5 創造性と技術的妥当性の観点から、AIが生成した類似例は人間が生成したものやベースライン手法と比較してどの程度優れているか？

主な発見

• 提案手法は、飛行車設計の事例研究における定性的な評価を通じて、高い関連性と多様性を備えた生物学的インスピレーションを受ける設計概念を効果的に生成した。
• 微調整済みのマシン評価器は、比較評価において人間の判断と高い一貫性を示し、類似例の関連性評価において強力な能力を発揮した。
• 緩い、中程度、きつい問題空間表現に基づく三段階の生成器アーキテクチャにより、柔軟で文脈に適応した概念生成が可能になった。
• 特に複雑で多分野にまたがる設計問題において、提案手法はベースライン手法を上回り、新規で技術的に妥当な類似例を生成した。
• フレームワークは実世界の応用において有効であることが実証され、軽量飛行車の概念設計フェーズにおいて実行可能で生物学的インスピレーションを受けるアイデアを支援した。