[논문 리뷰] Learning two-phase microstructure evolution using neural operators and autoencoder architectures

Vivek Oommen, Khemraj Shukla외 3명|arXiv (Cornell University)|2022. 04. 11.

Solidification and crystal growth phenomena인용 수 6

한 줄 요약

이 논문은 두상강의 미세구조 진화의 단계별 시뮬레이션을 가속화하기 위해 합성 신경망과 DeepONet를 조합한 하이브리드 딥러닝 프레임워크를 제안한다. 미세구조 역사에 대한 잠재공간 표현에서 시간에 따른 진화 상태로의 사상(mapping)을 학습함으로써, 모델은 전체 단계별 시뮬레이터 대비 최대 99% 감소된 추론 시간을 기록하면서도 테스트 데이터에서 상대적 $L^2$ 오차가 5% 미만을 유지하는 고정밀도 예측을 달성한다.

ABSTRACT

Phase-field modeling is an effective but computationally expensive method for capturing the mesoscale morphological and microstructure evolution in materials. Hence, fast and generalizable surrogate models are needed to alleviate the cost of computationally taxing processes such as in optimization and design of materials. The intrinsic discontinuous nature of the physical phenomena incurred by the presence of sharp phase boundaries makes the training of the surrogate model cumbersome. We develop a framework that integrates a convolutional autoencoder architecture with a deep neural operator (DeepONet) to learn the dynamic evolution of a two-phase mixture and accelerate time-to-solution in predicting the microstructure evolution. We utilize the convolutional autoencoder to provide a compact representation of the microstructure data in a low-dimensional latent space. DeepONet, which consists of two sub-networks, one for encoding the input function at a fixed number of sensors locations (branch net) and another for encoding the locations for the output functions (trunk net), learns the mesoscale dynamics of the microstructure evolution from the autoencoder latent space. The decoder part of the convolutional autoencoder then reconstructs the time-evolved microstructure from the DeepONet predictions. The trained DeepONet architecture can then be used to replace the high-fidelity phase-field numerical solver in interpolation tasks or to accelerate the numerical solver in extrapolation tasks.

연구 동기 및 목표

• 재료 과학 분야에서 미세구조 진화를 위한 단계별 시뮬레이션의 높은 계산 비용을 해결하기 위해.
• 날카로운 상 경계를 가지는 불연속적이고 표면에 의존하는 동역학에 대해 보조 모델을 훈련하는 데 도전하는 문제를 극복하기 위해.
• 미세구조의 형태학적 특성과 경계 세부 정보를 유지하는 빠르고 일반화 가능한 보조 모델을 개발하기 위해.
• 재료 설계 및 최적화 워크플로우에서 효율적인 내삽 및 외삽을 가능하게 하기 위해.
• 반복적인 단계별 시뮬레이터에 의존하는 것을 줄이기 위해 낮은 차원의 잠재공간에서 해의 연산자(operator)를 학습하기 위해.

제안 방법

• 합성 신경망은 고차원의 미세구조 데이터를 형태학적 특징을 유지하면서 저차원의 잠재공간으로 압축한다.
• DeepONet는 전체 잠재 표현의 시간 역사를 미래 상태로 매핑하는 해의 연산자(operator)를 학습한다. 이는 브랜치-트렁크 네트워크 아키텍처를 사용한다.
• 브랜치 네트워크는 시간적 상관관계를 활용하기 위해 1차원 합성곱을 사용하여 전체 시간 진화된 잠재 시퀀스를 처리한다.
• 트렁크 네트워크는 출력 예측을 위한 공간적 위치를 인코딩하여 다양한 공간적 점들 사이에서 일반화를 가능하게 한다.
• 훈련된 DeepONet는 향후 시간 단계에서의 잠재 상태를 예측하고, 이를 전치 합성곱 디코더를 사용하여 물리적 공간으로 복원한다.
• 모델은 Adam 최적화기를 사용하여 잠재공간에서의 $L^2$ 재구성 손실을 최소화함으로써 엔드 투 엔드로 훈련된다.

실험 결과

연구 질문

• RQ1 합성 신경망-DeepONet 하이브리드 프레임워크는 날카로운 경계를 가지는 이중상 미세구조 진화의 동역학을 정확하고 효율적으로 학습할 수 있는가?
• RQ2 학습된 해의 연산자가 예상치 못한 초기 조건과 시간 단계에 대해 얼마나 잘 일반화되는가?
• RQ3 고정밀 단계별 시뮬레이터 대비 계산 비용을 얼마나 줄일 수 있으며 정확도를 유지하는가?
• RQ4 모델은 재료 미세구조 예측에서 내삽 및 외삽 작업을 효과적으로 처리할 수 있는가?
• RQ5 잠재공간 표현이 가지는 형태학적 특징(예: 수상형 고체 구조 및 상 경계)을 얼마나 잘 유지하는가?

주요 결과

• 제안된 모델은 테스트 데이터에서 상대적 $L^2$ 오차가 5% 미만을 기록하여 미세구조 진화 예측의 높은 정확도를 입증한다.
• 프레임워크는 전체 단계별 시뮬레이션 대비 추론 시간을 최대 99% 감소시켜 실시간에 가까운 예측을 가능하게 한다.
• 예상치 못한 초기 조건에 대해 잘 일반화되어 있으며, 내삽 및 외삽 작업 모두에서 뛰어난 강건성을 보인다.
• 1D-합성곱 브랜치 네트워크의 사용은 잠재공간 내 시간 시퀀스의 효율적 인코딩을 가능하게 한다.
• 디코더에서 복원된 미세구조는 재료 성능 예측에 핵심적인 세밀한 경계 특징을 유지한다.
• 훈련된 DeepONet는 보조 해의 연산자로 작동하여 설계 최적화 과정에서 반복적인 고정밀 시뮬레이션의 필요성을 제거한다.