[論文レビュー] Theory-Guided Machine Learning for Process Simulation of Advanced Composites

Navid Zobeiry, Anoush Poursartip|arXiv (Cornell University)|Mar 29, 2021

Machine Learning in Materials Science被引用数 12

ひとこと要約

本稿では、物理法則をニューラルネットワークの学習に組み込むことで、高度複合材料の熱処理シミュレーションの精度と効率を向上させる理論誘導型機械学習（TGML）を提案する。閉形式解、漸近的挙動、物理ベースの活性化関数といった分野知識を段階的に統合することで、特に小規模データセットにおいて優れた一般化性能を達成し、有限要素法と比較して最大10,000倍の高速化を実現する。

ABSTRACT

Science-based simulation tools such as Finite Element (FE) models are routinely used in scientific and engineering applications. While their success is strongly dependent on our understanding of underlying governing physical laws, they suffer inherent limitations including trade-off between fidelity/accuracy and speed. The recent rise of Machine Learning (ML) proposes a theory-agnostic paradigm. In complex multi-physics problems, however, creating large enough datasets for successful training of ML models has proven to be challenging. One promising strategy to bridge the divide between these approaches and take advantage of their respective strengths is Theory-Guided Machine Learning (TGML) which aims to integrate physical laws into ML algorithms. In this paper, three case studies on thermal management during processing of advanced composites are presented and studied using FE, ML and TGML. A structured approach to incrementally adding increasingly complex physics to training of TGML model is presented. The benefits of TGML over ML models are seen in more accurate predictions, particularly outside the training region, and ability to train with small datasets. One benefit of TGML over FE is significant speed improvement to potentially develop real-time feedback systems. A recent successful implementation of a TGML model to assess producibility of aerospace composite parts is presented.

研究の動機と目的

• 複合材料成形の有限要素（FE）モデルにおけるシミュレーションの高精度化と計算速度のトレードオフを解消すること。
• 小規模または断片的なデータセットが原因で一般化性能が低下し、物理的整合性に欠けることが問題となる、従来の機械学習（ML）の限界を克服すること。
• 分野特有の物理的知識をMLモデルに統合する体系的なフレームワークを構築し、予測精度と耐障害性を向上させること。
• 多物理場複合材料成形シミュレーションにおいてTGMLの有効性を実証し、特に学習データ外の物理的傾向を捉える能力を強調すること。
• 高精度なFEモデルに比べて著しく短縮されたシミュレーション時間のおかげで、製造現場におけるリアルタイムフィードバックおよび制御を可能にすること。

提案手法

• 物理ベースの特徴工学を用いて、支配方程式（偏微分方程式、PDE）および保存則（エネルギー、質量など）をニューラルネットワークアーキテクチャに統合する。
• 解析解から導出された物理ベースの活性化関数を適用し、ニューラルネットワーク出力の物理的整合性を保証する。
• 近似的な物理ベースの解を用いた事前学習により、ニューラルネットワークを初期化し、限られたデータでも収束性と性能を向上させる。
• 単純な1次元問題から始めて3次元の多物理場ケースへと段階的に複雑さを増すことで、TGMLの学習において物理的洞察のレベルを段階的に統合する。
• 閉形式解や漸近的挙動の理解を活用して入力特徴を変換し、モデルの複雑さを低減しながらも物理的正確性を維持する。
• 熱処理における複合材料成形を対象とした3つの事例において、TGMLの性能を標準MLおよびFEシミュレーションと比較する。

実験結果

リサーチクエスチョン

• RQ1 標準MLと比較して、TGMLは学習データ分布外の範囲においても、高度複合材料の熱処理シミュレーションの予測精度を向上させることができるか？
• RQ2 TGMLは、モデルの精度を維持または向上させつつ、トレーニングデータセットのサイズをどの程度小さくできるか？
• RQ3 ニューラルネットワークの学習に物理法則を統合することで、多物理場複合材料成形問題における一般化性能と耐障害性にどのような影響を与えるか？
• RQ4 実世界の複合材料製造シナリオにおいて、高精度な有限要素（FE）シミュレーションと比較して、TGMLの計算速度はどの程度向上するか？
• RQ5 従来のMLモデルが失敗する状況でも、TGMLモデルは物理的整合性を保ち、正しい傾向の外挿を達成できるか？

主な発見

• TGMLモデルは、最小限のデータでも、大規模で複雑なMLモデルよりも高い精度を達成し、物理情報に基づくインダクティブバイアスの強力さを示した。
• たった100件のデータポイントで、事前学習済みのTGMLモデルが高精度を達成した。これは、標準MLと比較して、データ効率に優れていることを示している。
• TGMLモデルは物理的整合性を維持し、学習領域外の傾向を正しく予測したが、標準MLモデルは学習データの境界外では一般化に失敗した。
• 中規模のTGMLモデル（40ニューロン）は、標準CPU上で100,000回のシミュレーションを26秒で完了し、同等のFEシミュレーションと比較して約10,000倍の高速化を達成した。
• 実際の航空宇宙用複合材料ウイングスキンのシミュレーションでは、FEモデルが27分を要したのに対し、TGMLはわずか2秒にまで短縮され、リアルタイムフィードバックの可能性を実現した。
• 物理ベースの活性化関数と特徴変換の統合により、小さなニューラルネットワークですら、モデル誤差を著しく低減し、収束性を向上させた。