[논문 리뷰] MyCrunchGPT: A chatGPT assisted framework for scientific machine learning

Varun Kumar, Leonard Gleyzer외 3명|arXiv (Cornell University)|2023. 06. 27.

Lattice Boltzmann Simulation Studies인용 수 5

한 줄 요약

MyCrunchGPT는 자연어 프롬프트를 통해 공기역학적 설계 최적화 및 물리 기반 신경망(PINN) 시뮬레이션과 같은 종단 간 작업을 조율함으로써 계산 역학 분야의 과학적 기계 학습(SciML) 워크플로우를 자동화하는 ChatGPT 기반 프레임워크입니다. 이 프레임워크는 서rogate 모델링(DeepONet), CFD 검증 및 상호작용형 코드 생성을 통합하여 최소한의 사용자 입력으로 고정밀 결과를 달성하고 유체역학 및 향후 고체역학 및 재료 과학 분야의 빠른 프로토타이핑을 가능하게 합니다.

ABSTRACT

Scientific Machine Learning (SciML) has advanced recently across many different areas in computational science and engineering. The objective is to integrate data and physics seamlessly without the need of employing elaborate and computationally taxing data assimilation schemes. However, preprocessing, problem formulation, code generation, postprocessing and analysis are still time consuming and may prevent SciML from wide applicability in industrial applications and in digital twin frameworks. Here, we integrate the various stages of SciML under the umbrella of ChatGPT, to formulate MyCrunchGPT, which plays the role of a conductor orchestrating the entire workflow of SciML based on simple prompts by the user. Specifically, we present two examples that demonstrate the potential use of MyCrunchGPT in optimizing airfoils in aerodynamics, and in obtaining flow fields in various geometries in interactive mode, with emphasis on the validation stage. To demonstrate the flow of the MyCrunchGPT, and create an infrastructure that can facilitate a broader vision, we built a webapp based guided user interface, that includes options for a comprehensive summary report. The overall objective is to extend MyCrunchGPT to handle diverse problems in computational mechanics, design, optimization and controls, and general scientific computing tasks involved in SciML, hence using it as a research assistant tool but also as an educational tool. While here the examples focus in fluid mechanics, future versions will target solid mechanics and materials science, geophysics, systems biology and bioinformatics.

연구 동기 및 목표

• 사용자 프롬프트를 통한 전처리, 코드 생성, 후처리 단계를 통합한 단일 LLM 기반 인터페이스를 통해 과학적 기계 학습에서 시간 소모가 심한 단계를 간소화하는 것.
• 비전문가 사용자가 간단한 자연어 프롬프트를 통해 2D NACA 공기역학적 최적화 및 PINN 기반 유동 시뮬레이션과 같은 복잡한 SciML 작업을 수행할 수 있도록 하는 것.
• 실시간 로깅, 시각화 및 자동 보고서 생성 기능을 지원하는 상호작용형 가이드 워크플로우를 제공하는 웹 기반 GUI 개발.
• MyCrunchGPT의 출력 결과를 고정밀 CFD 솔버(Nektar++) 및 출판된 문헌과 비교하여 정확성과 신뢰성을 검증하는 것.
• 신경 연산자 및 PINN 변종의 모듈식 통합을 통해 향후 고체역학, 재료 과학, 지구물리학, 시스템 생물학 분야로의 확장 가능성을 확보하는 것.

제안 방법

• MyCrunchGPT는 사용자 프롬프트를 해석하고 설계, 시뮬레이션, 분석를 위한 백엔드 기능을 동적으로 호출하는 중앙 조율자로 대규모 언어 모델(ChatGPT)을 사용합니다.
• 공기역학적 최적화의 경우, 사용자가 정의한 카르브(m)와 위치(p)를 기반으로 매개변수 방정식과 CFD 데이터로 훈련된 DeepONet을 서rogate 모델로 사용하여 2D NACA 공기역학 형상을 생성합니다.
• 이 프레임워크는 새로운 공기역학 형상 주변의 유동장을 예측하기 위해 DeepONet를 활용하여 전체 CFD 재시뮬레이션 없이도 빠른 평가를 가능하게 합니다.
• 유체역학 분야에서는 MyCrunchGPT가 라이드 드리븐 캐비티 유동과 같은 벤치마크 문제에 대해 나비에-스토크스 방정식을 해결하기 위한 PINN을 생성하고 훈련하며, 자동 하이퍼파rameter 튜닝 및 시각화를 수행합니다.
• 웹앱 GUI를 통해 실시간 상호작용, 로그 추적, 그림 렌더링 및 CFD 및 문헌 기준과의 비교를 포함한 내보낼 수 있는 요약 보고서 생성이 가능합니다.
• 프롬프트를 통한 반복적 개선을 지원하며, 검증, 불확실성 정량화, 다중 모odal 솔루션 해석 요청 등도 가능하며, 향후 분산 계산 및 고급 신경 연산자 확장 계획이 수립되어 있습니다.

실험 결과

연구 질문

• RQ1 ChatGPT와 같은 대규모 언어 모델이 계산 유체역학 분야의 종단 간 과학적 기계 학습 워크플로우를 효과적으로 자동화하고 조율하는 데에 적합한가?
• RQ2 서rogate 모델과 PINN를 활용할 때, LLM 기반 보조자가 공기역학적 설계 및 흐름 시뮬레이션 분야에서 정확하고 검증되며 재현 가능한 결과를 생성할 수 있는 정도는 어느 정도인가?
• RQ3 자연어 프롬프트를 어떻게 활용하여 물리 기반 딥러닝 파이프라인 내에서 시뮬레이션 파rameter, 기하 형상, 하이퍼파rameter를 동적으로 수정할 수 있는가?
• RQ4 LLM를 과학 계산 도구와 통합함으로써 계산 역학 분야의 비전문가가 연구 및 설계 주기를 단축시킬 수 있는가?
• RQ5 확장 가능하고 상호작용이 가능하며 감사 가능한 LLM 기반 과학 계산 보조자 시스템을 구축할 때의 주요 기술적 및 아키텍처적 과제는 무엇인가?

주요 결과

• MyCrunchGPT는 DeepONet 예측을 활용하여 설계, 서rogate 평가 및 최적화 파이프라인을 자동화함으로써 향상된 립트-드래그 비율을 가진 최적화된 2D NACA 공기역학 형상을 성공적으로 생성했습니다.
• Nektar++에서 확보한 고정밀 CFD 결과와 비교했을 때, 최적화된 공기역학 형상에 대한 DeepONet 예측 유동장은 절대 오차가 10^-3에서 10^-4 수준으로 매우 작았습니다.
• 라이드 드리븐 캐비티 유동의 PINN 기반 시뮬레이션은 높은 정확도를 달성하여 직접 수치 해석(DNS) 데이터 및 출판된 기준과 밀도 있게 일치했습니다.
• 사용자는 간단한 텍스트 프롬프트를 통해 문제 기하 형상, 학습 하이퍼파rameter, 시각화 및 검증 체크 요청을 상호작용적으로 수정할 수 있었으며, 이는 시스템의 유연성을 입증했습니다.
• 웹앱 GUI는 실시간 로깅, 그림 렌더링 및 CFD 및 문헌 기준과의 비교 요약을 포함한 자동 보고서 생성을 가능하게 했습니다.
• 향후 FNO, WNO, ViTO와 같은 고급 신경 연산자 및 확률적 설계 방법을 통합할 계획이 있어, 다른 분야로의 확장 가능성도 입증되었습니다.