[論文レビュー] Multiscale DeepONet for Nonlinear Operators in Oscillatory Function Spaces for Building Seismic Wave Responses

Lizuo Liu, Wei Cai|arXiv (Cornell University)|Nov 8, 2021

Model Reduction and Neural Networks参考文献 10被引用数 16

ひとこと要約

本稿では、振幅分離とマルチスケールニューラルネットワークを活用して、高周波振動を示す地震動から建物の構造的応答への非線形作用素を正確に学習するマルチスケールDeepONetを提案する。信号を明確な振幅-周波数成分に分解し、特化したDeepONetアーキテクチャを用いることで、テストケースにおいて平均相対L2誤差0.13、推論時間O(10⁻²)秒の高精度を達成し、標準的なDeepONetおよびマルチスケールDNNベースラインを著しく上回る性能を示した。

ABSTRACT

In this paper, we propose a multiscale DeepONet to represent nonlinear operator between Banach spaces of highly oscillatory continuous functions. The multiscale deep neural network (DNN) utilizes a multiple scaling technique to convert high frequency function to lower frequency functions before using a DNN to learn a specific range of frequency of the function. The multi-scale concept is integrated into the DeepONet which is based on a universal approximation theory of nonlinear operators. The resulting multi-scale DeepONet is shown to be effective to represent building seismic response operator which maps oscillatory seismic excitation to the oscillatory building responses.

研究の動機と目的

• 高周波振動を示す関数空間間の非線形作用素を正確に学習できる深層学習フレームワークの開発を目的とする。特に、建物における地震波応答予測を対象とする。
• 地震信号に顕著な振幅-周波数差が生じる場合に、標準的なニューラルネットワークの性能が制限されるという課題に対処することを目的とする。
• マルチスケール深層ニューラルネットワークの原則をDeepONetアーキテクチャに統合し、バナッハ空間内での周期的作用素の近似性能を向上させることを目的とする。
• 従来の有限要素法が要するO(10²–10³)秒のコストを克服し、地震動への建物応答をリアルタイムで予測可能にする。

提案手法

• 本手法は、高周波地震入力を処理する前に、複数スケール変換を適用して低周波成分に変換するマルチスケールDeepONetを採用する。
• 振幅に大きな差が生じる信号に対応するため、DeepONet構造に振幅分離を統合する。
• ブランチネットワークは地震動入力を処理し、トランクネットワークは空間的・時間的応答出力を処理する。マルチスケール構成が周波数分解能を向上させる。
• 過学習を防ぎつつ一般化性能を向上させるために、ランダム重み付き地震入力と応答の重ね合わせによるデータ拡張を実施する。
• 4層の全結合トランクネットと、100個のサブネットを有するマルチスケールブランチネットを採用。活性化関数にReLUを用い、1500エポックにわたり学習率10⁻³で学習を実施。
• 有限要素法でシミュレートされた地震応答データを用いてモデルを学習し、信号の再現性を高めるために地震記録前処理段階でアリスティング除去を実施する。

実験結果

リサーチクエスチョン

• RQ1 マルチスケールDeepONetアーキテクチャは、高周波振動を示す地震動から建物の構造的応答への非線形作用素を、高い精度と速度で正確に学習できるか？
• RQ2 振幅-周波数帯域に顕著な振幅差を示す信号に対して、マルチスケールDeepONetアーキテクチャにおける振幅分離が性能向上にどのように寄与するか？
• RQ3 マルチスケール深層ニューラルネットワークをDeepONetと統合することで、標準的なDeepONetやマルチスケールDNN単体に比べ、バナッハ空間内での周期的作用素の近似性能が向上するか？
• RQ4 重ね合わせによるデータ拡張戦略は、地震応答作用素の学習において一般化性能を向上させ、過学習を防止するのにどの程度有効か？

主な発見

• 振幅分離を施したマルチスケールDeepONetは、テストケースにおいて平均相対L2誤差0.13を達成し、地震応答予測の高精度を実証した。
• 複数階の床においても正しい周波数と時間領域応答を予測でき、図8の左側と右側の柱が、周波数および時間発展の正確な捉え込みを確認した。
• 振幅分離を組み込んだマルチスケールDeepONetは、振幅分離なしのベースラインモデルに比べ、収束性が良く、一般化誤差も低く抑えられていた（図7による裏付け）。
• 推論時間をO(10⁻²)秒まで短縮し、有限要素法が要するO(10²–10³)秒のコストを著しく改善した。
• 重ね合わせによるデータ拡張戦略は、過学習を効果的に防止し、多様な地震入力に対してモデルのロバスト性を向上させた。
• アーキテクチャは、異なる階層における応答の特徴的な周波数-振幅特性を的確に捉えており、下層階では高周波で小さな振幅を示すことが確認された。