[論文レビュー] A new family of Constitutive Artificial Neural Networks towards automated model discovery

Kevin Linka, Ellen Kuhl|arXiv (Cornell University)|Sep 15, 2022

Elasticity and Material Modeling被引用数 14

ひとこと要約

この論文は、熱力学的整合性、材料の客観性、多変数凸性といった物理的制約——例えば、エネルギー保存則や物性則——をネットワーク構造、活性化関数、設計に組み込んだ、新しい種類のニューラルネットワーク、すなわち構成的ニューラルネットワーク（CANNs）を提案する。実験データで訓練されたCANNsは、最適な構成則モデル（例：ネオ・フック型、ムアニー＝リヴリン型）を自動で同定し、その物理的パラメータ（例：せん断率、剛性係数）を特定する。これにより、解釈可能で物理的に意味のある重みを持つ自動モデル探索が可能になる。

ABSTRACT

For more than 100 years, chemical, physical, and material scientists have proposed competing constitutive models to best characterize the behavior of natural and man-made materials in response to mechanical loading. Now, computer science offers a universal solution: Neural Networks. Neural Networks are powerful function approximators that can learn constitutive relations from large data without any knowledge of the underlying physics. However, classical Neural Networks ignore a century of research in constitutive modeling, violate thermodynamic considerations, and fail to predict the behavior outside the training regime. Here we design a new family of Constitutive Artificial Neural Networks that inherently satisfy common kinematic, thermodynamic, and physic constraints and, at the same time, constrain the design space of admissible functions to create robust approximators, even in the presence of sparse data. We revisit the non-linear field theories of mechanics and reverse-engineer the network input to account for material objectivity, symmetry, and incompressibility; the network output to enforce thermodynamic consistency; the activation functions to implement physically reasonable restrictions; and the network architecture to ensure polyconvexity. We demonstrate that this new class of models is a generalization of the classical neo Hooke, Blatz Ko, Mooney Rivlin, Yeoh, and Demiray models and that the network weights have a clear physical interpretation. When trained with classical benchmark data for rubber, our network autonomously selects the best constitutive model and learns its parameters. Our findings suggests that Constitutive Artificial Neural Networks have the potential to induce a paradigm shift in constitutive modeling, from user-defined model selection to automated model discovery. Our source code, data, and examples are available at https://github.com/LivingMatterLab/CANN.

研究の動機と目的

• 構成則モデリングに用いられる古典的ニューラルネットワークにおける物理的解釈可能性と熱力学的整合性の欠如に対処すること。
• 数十年にわたる連続体力学の知見をニューラルネットワークのアーキテクチャに直接埋め込むことで、ブラックボックスモデルの限界を克服すること。
• 事前にモデルの選択を必要とせずに、構成則の形式とそのパラメータの両方を自動で特定するモデル探索を可能にすること。
• 特に実験データがスパarsity（希少）である場合でも、安定した訓練と一般化を保証すること。
• ネットワークの重みが直接物理的意味を持つ（例：せん断率、指数係数）ようにすることで、解釈可能性と不確実性の評価を可能にするフレームワークの構築

提案手法

• 材料の客観性、対称性（等方的）および不圧縮性を満たすために、ひずみ不変量を入力としてネットワークを設計する。
• 出力を自由エネルギー関数として構造化することで、熱力学の第一法則および第二法則に従い、熱力学的整合性を確保する。
• 単調性や凸性といった物理的制限を満たすために、特定の活性化関数（例：シグモイド関数、指数関数）を用いる。
• 自由エネルギー関数がひずみ不変量に関して凸であることを保証するため、構造的制約を用いて多変数凸性を強制する。
• ラバーマテリアルのベンチマークデータ（単軸引張、二軸引張、純ねじり）を用いて、モデルとパラメータを同時に学習する。
• ネットワークのプルーニングを適用し、不要な項を特定・削除することで、非ゼロの重みが有効な物理的項に対応する最小で解釈可能なモデルを得る。

実験結果

リサーチクエスチョン

• RQ1 実験データから事前にユーザーがモデルを選択しなくても、ニューラルネットワークが正しい構成則モデルを自動で同定できるか？
• RQ2 熱力学の法則（第一法則および第二法則）を直接ニューラルネットワークのアーキテクチャに埋め込む方法は何か？
• RQ3 ニューラルネットワークの重みを、抽象的なパrameterではなく、物理的パラメータ（例：せん断率、剛性係数）として明確に解釈できるか？
• RQ4 物理的事前知識（priors）によって許容関数の空間を制約することで、スパースなデータに対してもネットワークが頑健に一般化できるか？
• RQ5 LSTMベースの再帰的ネットワークなどのアーキテクチャ変更により、圧縮性材料、異方的対称性（例：垂直等方性）、履歴依存の塑性挙動に対応できるようにネットワークアーキテクチャを拡張できるか？

主な発見

• 提案された構成的ニューラルネットワーク（CANNs）は、ネオ・フック型、ムアニー＝リヴリン型、ブレーツ＝コ、イェオ、デミライといった古典的構成則モデルを一般化する。
• ネットワークの重みは物理的パラメータ（せん断率、剛性に類するパラメータ、指数係数）に直接対応しており、物理的解釈可能性を実現する。
• ラバーマテリアルのベンチマークデータ（単軸引張、二軸引張、純ねじり）で訓練した結果、ネットワークは最適な適合モデルを自動で選択し、高い精度でそのパラメータを学習した。
• ネットワークの大部分の重みがゼロに収束した。これは、ネットワークが不要な物理的項を自己同定し、関連する物理的項の最小集合を特定していることを示しており、無関係なモデル部品のプルーニングが有効に機能している。
• アーキテクチャ設計および活性化関数の選定により、事前に熱力学的整合性を確保しており、後処理による補正を回避できる。
• LSTMベースの再帰的ネットワークなどのアーキテクチャ変更により、圧縮性材料、異方的対称性（例：垂直等方性）および履歴依存材料に対応できるようにフレームワークを拡張可能である。