[논문 리뷰] A new family of Constitutive Artificial Neural Networks towards automated model discovery

Kevin Linka, Ellen Kuhl|arXiv (Cornell University)|2022. 09. 15.

Elasticity and Material Modeling인용 수 14

한 줄 요약

이 논문은 열역학적 일관성, 재료 객관성, 다각형성 등의 물리적 제약 조건을 네트워크 아키텍처, 활성화 함수 및 설계에 통합하는 새로운 종류의 신경망인 구성물 인공신경망(CANNs)을 소개한다. 실험 데이터로 훈련할 경우 CANNs는 최적의 구성 모델(예: 뉴호크, 무니-리블린)을 자동으로 발견하고 그 물리적 매개변수(예: 전단 모odulus, 강성 계수)를 식별하여 물리적으로 의미 있는 가중치를 가진 자동 모델 발견을 가능하게 한다.

ABSTRACT

For more than 100 years, chemical, physical, and material scientists have proposed competing constitutive models to best characterize the behavior of natural and man-made materials in response to mechanical loading. Now, computer science offers a universal solution: Neural Networks. Neural Networks are powerful function approximators that can learn constitutive relations from large data without any knowledge of the underlying physics. However, classical Neural Networks ignore a century of research in constitutive modeling, violate thermodynamic considerations, and fail to predict the behavior outside the training regime. Here we design a new family of Constitutive Artificial Neural Networks that inherently satisfy common kinematic, thermodynamic, and physic constraints and, at the same time, constrain the design space of admissible functions to create robust approximators, even in the presence of sparse data. We revisit the non-linear field theories of mechanics and reverse-engineer the network input to account for material objectivity, symmetry, and incompressibility; the network output to enforce thermodynamic consistency; the activation functions to implement physically reasonable restrictions; and the network architecture to ensure polyconvexity. We demonstrate that this new class of models is a generalization of the classical neo Hooke, Blatz Ko, Mooney Rivlin, Yeoh, and Demiray models and that the network weights have a clear physical interpretation. When trained with classical benchmark data for rubber, our network autonomously selects the best constitutive model and learns its parameters. Our findings suggests that Constitutive Artificial Neural Networks have the potential to induce a paradigm shift in constitutive modeling, from user-defined model selection to automated model discovery. Our source code, data, and examples are available at https://github.com/LivingMatterLab/CANN.

연구 동기 및 목표

• 구성 모델링에 사용되는 전통적 신경망에서 물리적 해석 가능성과 열역학적 일관성이 부족한 문제를 해결하기 위해.
• 수십 년에 걸친 연속체 역학 지식을 직접 신경망 아키텍처에 통합함으로써 블랙박스 모델의 한계를 극복하기 위해.
• 사용자에 의해 사전 선택된 모델이 필요 없이, 구성 형태와 그 매개변수를 모두 자동으로 선택하는 모델 발견을 가능하게 하기 위해.
• 희소하거나 제한된 실험 데이터에서도 안정적인 훈련과 일반화를 보장하기 위해.
• 네트워크 가중치가 직접적인 물리적 의미(예: 전단 모odulus, 지수 계수)를 가지도록 하여 해석 가능성과 불확실성 정량화를 가능하게 하기 위해.

제안 방법

• 재료 객관성, 재료 대칭성(등방성) 및 비압축성 조건을 만족시키기 위해 변형률 불변량을 사용하여 네트워크 입력을 설계한다.
• 열역학적 일관성을 확보하기 위해 네트워크 출력을 자유 에너지 함수로 구조화함으로써 제1법칙 및 제2법칙에 기반한다.
• 단조성 및 볼록성 등의 물리적 제약 조건을 만족시키기 위해 특정 활성화 함수(예: 시그모이드, 지수 함수)를 사용한다.
• 자유 에너지 함수가 변형률 불변량에 대해 볼록함을 보장하기 위해 아키텍처적 제약 조건을 통해 다각형성을 강제한다.
• 고무에 대한 기준 데이터(일축 인장, 이축 연신, 순수 전단)를 사용하여 동시에 모델과 매개변수를 학습하도록 네트워크를 훈련시킨다.
• 불필요한 항을 식별하고 제거하기 위해 네트워크 프루닝을 적용하여 비영인 가중치가 활성 물리 항에 해당하는 최소화되고 해석 가능한 모델을 도출한다.

실험 결과

연구 질문

• RQ1 사용자가 사전에 모델을 선택하지 않고도 실험 데이터에서 정확한 구성 모델을 자동으로 발견할 수 있는 신경망을 설계할 수 있는가?
• RQ2 열역학 법칙(제1법칙 및 제2법칙)을 직접 신경망 아키텍처에 통합하여 물리적 일관성을 보장할 수 있는가?
• RQ3 신경망의 가중치를 추상적인 매개변수로 남겨두는 대신, 전단 모odulus나 강성 매개변수와 같이 명확한 물리적 의미를 부여할 수 있는가?
• RQ4 물리적 사전 지식를 통해 허용 가능한 함수의 공간을 제약함으로써 희소 데이터에 대해 안정적으로 일반화할 수 있는가?
• RQ5 이러한 네트워크 아키텍처를 압축성 재료, 이방성 대칭성 또는 역사 의존성 비탄성 거동을 다룰 수 있도록 확장할 수 있는가?

주요 결과

• 제안된 구성물 인공신경망(CANNs)은 뉴호크, 무니-리블린, 블라츠-코, 이오, 데미라이라는 고전적 구성 모델을 일반화한다.
• 네트워크 가중치는 물리적 매개변수와 직접적으로 대응한다: 전단 모odulus, 강성 유사 매개변수, 지수 계수 등으로 인해 물리적 해석 가능성이 보장된다.
• 고무 기준 데이터(일축, 이축, 순수 전단)로 훈련된 후, 네트워크는 최적의 피팅 모델을 자동으로 선택하고 높은 정확도로 매개변수를 학습한다.
• 대부분의 네트워크 가중치는 0으로 수렴하여, 네트워크가 자동으로 관련 있는 물리적 항의 최소 집합을 식별하고 불필요한 모델 구성 요소를 효과적으로 프루닝함을 시사한다.
• 아키텍처 및 활성화 함수 설계를 통해 사전에 열역학 일관성을 보장함으로써 후처리 수정이 필요 없게 된다.
• LSTM 기반 순환 네트워크와 같은 아키텍처 수정을 통해 압축성 재료, 이방성 대칭성(예: 수직 이방성) 및 역사 의존성 재료로의 확장이 가능하다.