[論文レビュー] Machine learning materials physics: Multi-resolution neural networks learn the free energy and nonlinear elastic response of evolving microstructures

Xiaoxuan Zhang, Krishna Garikipati|arXiv (Cornell University)|Dec 31, 2019

Machine Learning in Materials Science参考文献 48被引用数 6

ひとこと要約

本論文は、直接数値シミュレーション（DNS）のデータを用いて、多成分結晶性固体における進化するミクロ構造の均質化自由エネルギーおよび非線形弾性応答を予測する、マルチスケールニューラルネットワークフレームワークを提案する。この手法は、多様なミクロ構造において、マクロな機械的挙動を高い精度で予測でき、特にCNNベースのモデルが専門家が定義した変数を超える複雑なミクロ構造的特徴を捉えることができ、DNNよりも優れた性能を示した。

ABSTRACT

Many important multi-component crystalline solids undergo mechanochemical spinodal decomposition: a phase transformation in which the compositional redistribution is coupled with structural changes of the crystal, resulting in dynamically evolving microstructures. The ability to rapidly compute the macroscopic behavior based on these detailed microstructures is of paramount importance for accelerating material discovery and design. Here, our focus is on the macroscopic, nonlinear elastic response of materials harboring microstructure. Because of the diversity of microstructural patterns that can form, there is interest in taking a purely computational approach to predicting their macroscopic response. However, the evaluation of macroscopic, nonlinear elastic properties purely based on direct numerical simulations (DNS) is computationally very expensive, and hence impractical for material design when a large number of microstructures need to be tested. A further complexity of a hierarchical nature arises if the elastic free energy and its variation with strain is a small-scale fluctuation on the dominant trajectory of the total free energy driven by microstructural dynamics. To address these challenges, we present a data-driven approach, which combines advanced neural network (NN) models with DNS to predict the homogenized, macroscopic, mechanical free energy and stress fields arising in a family of multi-component crystalline solids that develop microstructure. The hierarchical structure of the free energy's evolution induces a multi-resolution character to the machine learning paradigm: We construct knowledge-based neural networks (KBNNs) with either pre-trained fully connected deep neural networks (DNNs), or pre-trained convolutional neural networks (CNNs) that describe the dominant characteristic of the data to fully represent the hierarchically evolving free energy.

研究の動機と目的

• 機械的・化学的スピンodal分解を経る多成分結晶性固体におけるマクロな機械的性質の予測を高速化すること。
• 大規模材料設計において直接数値シミュレーション（DNS）が計算的に非現実的であるのを克服し、高価な均質化をデータ駆動の学習に置き換えること。
• 自由エネルギーの進化における階層的性質をモデル化すること。ここでは、微小スケールの弾性フラクチュエーションと支配的となるミクロ構造的ダイナミクスが共存する。
• ニューラルネットワークのトレーニングに物理的制約を組み込むことで、予測精度を向上させること。
• 畳み込み層が専門家が定義した特徴を超えて、どのようなミクロ構造的特徴を学習しているかを明らかにすることで、解釈可能性を高めること。

提案手法

• 結合非線形ひずみ勾配弾性およびカーン＝ヒリャード相場方程式の直接数値シミュレーション（DNS）を用いて、合成されたミクロ構造とその対応する均質化自由エネルギーおよび応力場を生成した。
• 事前に訓練されたDNNまたはCNNを特徴抽出器として用いて、知識ベースのニューラルネットワーク（KBNN）を構築し、支配的となる自由エネルギーの軌跡をモデル化した。
• CNNがミクロ構造内の空間パターンを捉える一方で、DNNがひずみ依存の変動をモデル化するマルチスケール学習アーキテクチャを実装した。
• 自由エネルギーとその微分（応力）の熱力学的整合性からの逸脱をペナルティ化することで、物理的インフォームド正則化を適用した。
• 初期条件が異なる20回の異なるDNSシミュレーションから得た17,000個のミクロ構造を用いて、汎化性能をテストする目的でモデルをトレーニングした。
• フィルタ可視化技術を用いて、畳み込み層で学習された特徴を解釈し、専門家が定義したミクロ構造的記述子と比較した。

実験結果

リサーチクエスチョン

• RQ1 マルチスケールニューラルネットワークアーキテクチャは、DNSで生成されたデータから、進化するミクロ構造の非線形弾性応答を効果的に学習できるか？
• RQ2 CNNベースとDNNベースのKBNNは、初期条件が異なるミクロ構造において、均質化自由エネルギーおよび応力をどのように予測するか？
• RQ3 畳み込み層は、ドメインエキスパートが明示的に定義した特徴を超えて、どの程度ミクロ構造的特徴を学習しているか？
• RQ4 物理的制約に基づく正則化は、材料均質化におけるニューラルネットワークの汎化性能と予測精度を向上させられるか？
• RQ5 階層的特徴学習は、機械的・化学的系における自由エネルギー進化のマルチスケール性を捉える上で果たす役割は何か？

主な発見

• 初期条件が異なるミクロ構造の弾性応答を予測する際、CNNベースのKBNNがDNNベースのKBNNを上回った。これは、優れた特徴抽出能力を示している。
• 最も優れた性能を示したCNNの畳み込み層は、ドメインエキスパートが特定した重要な特徴（界面長さ、相体積分率）を学習しており、物理的直観と整合していることが確認された。
• 既知の特徴を超えて、畳み込み層は明示的に定義されていなかったが、複雑で混合された特徴（例：体積分率と界面情報の併存）も捉えており、それらが学習された。
• 物理的ペナルティの導入により、モデルの汎化性能が向上し、境界データのみを用いても均質化応力場を正確に予測できるようになった。
• フィルタ可視化の結果、一部のフィルタ（例：フィルタ4）は負の応答を示したが、ReLU活性化関数によってゼロにされ、非自明な特徴選択と、学習された表現における冗長性の可能性が示された。
• 結果から、3次元問題においてCNNはDNNよりも効果的である可能性が示唆された。これは、事前に指定された特徴に依存せず、複雑で高次元のミクロ構造的パターンを学習できる能力のおかげである。