[논문 리뷰] Biologically Inspired Design Concept Generation Using Generative Pre-Trained Transformers

Qihao Zhu, Xinyu Zhang외 1명|arXiv (Cornell University)|2022. 12. 26.

Design Education and Practice인용 수 4

한 줄 요약

이 논문은 생물학적 특징을 공 ingeneering 솔루션으로 매핑하여 생물학적으로 영감을 받은 설계(BID) 개념 생성을 자동화하기 위해 GPT-3 기반 접근법을 제안한다. 생물학적 특징에서 공 ingeneering 솔루션으로의 매핑을 가능하게 하기 위해 세 가지 유형의 개념 생성기와 기계 평가자를 미세조정하여 관련성이 높은 유사성을 생성하고 평가하며, 실제 경량 비행 자동차 프로젝트에서 강력한 성능을 보였다.

ABSTRACT

Biological systems in nature have evolved for millions of years to adapt and survive the environment. Many features they developed can be inspirational and beneficial for solving technical problems in modern industries. This leads to a specific form of design-by-analogy called bio-inspired design (BID). Although BID as a design method has been proven beneficial, the gap between biology and engineering continuously hinders designers from effectively applying the method. Therefore, we explore the recent advance of artificial intelligence (AI) for a data-driven approach to bridge the gap. This paper proposes a generative design approach based on the generative pre-trained language model (PLM) to automatically retrieve and map biological analogy and generate BID in the form of natural language. The latest generative pre-trained transformer, namely GPT-3, is used as the base PLM. Three types of design concept generators are identified and fine-tuned from the PLM according to the looseness of the problem space representation. Machine evaluators are also fine-tuned to assess the mapping relevancy between the domains within the generated BID concepts. The approach is evaluated and then employed in a real-world project of designing light-weighted flying cars during its conceptual design phase The results show our approach can generate BID concepts with good performance.

연구 동기 및 목표

• 생물학적 시스템과 공학 설계 사이의 지속적인 격차를 해소하기 위해 데이터 기반, 인공지능 지원 유사성 생성을 가능하게 하기 위해.
• 대규모 언어 모델을 활용하여 확장 가능하고 자연어 기반의 생물학적으로 영감을 받은 설계(BID) 개념 생성 방법을 개발하기 위해.
• 다양한 수준의 추상화를 가진 생물학적-공학적 유사성 간 매핑의 관련성과 품질을 생성하고 평가하기 위해 생성 모델과 평가자를 미세조정하기 위해.
• 경량 비행 자동차 개념 설계에 특화된 실제 공학 설계 맥락에서 접근법을 검증하기 위해.

제안 방법

• 문제 공간의 추상화 수준이 다른 세 가지 유형의 설계 개념 생성기를 생성하기 위해 GPT-3를 기본 생성형 사전 훈련된 언어 모델(PLM)로 미세조정한다.
• 계층적 프롬프팅 전략을 활용하여 모델이 생물학적 특징을 검색하고 이를 공학 솔루션으로 매핑하도록 안내한다.
• 미세조정된 모델을 사용하여 기계 평가자를 훈련시켜 생물학적 도메인과 공학 도메인 간 생성된 유사성의 관련성과 품질을 평가한다.
• 소수의 예시 프롬프팅과 소수의 예시 미세조정을 통해 자원이 제한된 설계 상황에서의 제로샷 일반화 및 유사성 품질을 향상시킨다.
• 실제 경량 비행 자동차 개념 설계 프로젝트에 프레임워크를 적용하여 출력의 관련성과 창의성을 평가한다.
• 정성적 평가와 기준 방법과의 비교를 통해 결과를 검증하여, 더 높은 유사성 관련성과 다양성을 입증한다.

실험 결과

연구 질문

• RQ1 생물학적으로 영감을 받은 설계 개념을 높은 관련성과 다양성으로 효과적으로 생성할 수 있는가?
• RQ2 문제 공간 표현의 추상화 수준이 다를 경우, 생성된 유사성의 품질과 관련성에 어떤 영향을 미치는가?
• RQ3 미세조정된 기계 평가자가 생물학적 도메인과 공학 도메인 간 매핑의 관련성을 얼마나 정확하게 평가할 수 있는가?
• RQ4 제안된 방법은 경량 비행 자동차와 같은 실제 공학 설계 과제를 지원할 수 있는가?
• RQ5 창의성과 기술적 타당성 측면에서 인공지능이 생성한 유사성과 인간이 생성한 또는 기준 방법에 비해 성능이 어떻게 비교되는가?

주요 결과

• 제안된 방법은 비행 자동차 설계 사례 연구에서 정성적 평가를 통해 높은 관련성과 다양성을 가진 생물학적으로 영감을 받은 설계 개념을 성공적으로 생성하였다.
• 미세조정된 기계 평가자가 유사성 관련성을 평가하는 데 강력한 능력을 보였으며, 비교 평가에서 인간의 판단과 높은 일致성을 보였다.
• 이중, 중간, 밀접한 문제 공간 표현 기반의 3단계 생성기 아키텍처는 민첩하고 맥락 인식 가능한 개념 생성을 가능하게 하였다.
• 특히 복잡하고 다중 도메인 설계 문제에서, 기존 기준 방법보다 새로운 유사성과 기술적으로 타당한 유사성을 더 잘 생성하였다.
• 실제 응용에서 효과적인 것으로 입증되었으며, 경량 비행 자동차의 개념 설계 단계에서 실현 가능한 생물학적으로 영감을 받은 아이디어를 지원하였다.