[論文レビュー] Graph Convolutional Neural Networks for Body Force Prediction

Francis Ogoke, Kazem Meidani+2 more|arXiv (Cornell University)|Dec 3, 2020

Model Reduction and Neural Networks参考文献 45被引用数 16

ひとこと要約

本論文では、非構造的で散在する速度測定値から、特に抗力の大きさを予測するためのグラフ畳み込みニューラルネットワーク（GCNN）を提案する。流れ場データをk近傍法で接続されたエッジを持つグラフとしてモデル化することで、構造化されたグリッドを必要とせず、順序に依存しない空間的認識可能な推論が可能となり、検証用のR² > 0.98および正規化されたMSE < 0.01を達成した。

ABSTRACT

Many scientific and engineering processes produce spatially unstructured data. However, most data-driven models require a feature matrix that enforces both a set number and order of features for each sample. They thus cannot be easily constructed for an unstructured dataset. Therefore, a graph based data-driven model to perform inference on fields defined on an unstructured mesh, using a Graph Convolutional Neural Network (GCNN) is presented. The ability of the method to predict global properties from spatially irregular measurements with high accuracy is demonstrated by predicting the drag force associated with laminar flow around airfoils from scattered velocity measurements. The network can infer from field samples at different resolutions, and is invariant to the order in which the measurements within each sample are presented. The GCNN method, using inductive convolutional layers and adaptive pooling, is able to predict this quantity with a validation $R^{2}$ above 0.98, and a Normalized Mean Squared Error below 0.01, without relying on spatial structure.

研究の動機と目的

• 固定された特徴の順序や空間的構造を持たない非構造的流れ場データに従来の機械学習を適用する課題に対処すること。
• 複雑な幾何形状の周囲で疎で不規則に配置された速度測定値から、グローバルな物理量（例：抗力）を正確に予測すること。
• 入力測定値の順序に依存しない、さまざまなメッシュ解像度に一般化可能なデータ駆動型フレームワークを構築すること。
• 従来の構造化モデル（例：CNN、MLP、XGBoost）と比較して、非構造的流体データに適用した際のグラフベースの深層学習の優位性を示すこと。
• 空間グリッドの仮定に依存せずに、グラフニューラルネットワークを用いた流体力学におけるスケーラブルで帰納的な補間モデル構築のためのアプローチを確立すること。

提案手法

• 非構造的メッシュ上の各速度測定点をノードとする流れ場をグラフとして表現し、各ノードをk番目の近隣ノードと接続するエッジを設ける。
• 学習可能なフィルタを用いて隣接ノードの特徴を集約するグラフ畳み込み層を適用し、不規則なトポロジー上での局所的パターン検出と特徴学習を可能にする。
• 構造的情報を保持しながらグラフをダウンサンプリングするためのアダプティブプーリング層を用い、マルチスケール推論を可能にする。
• 局所的な速度場入力からグローバルな抗力の大きさを回帰するために、平均二乗誤差（MSE）損失を用いてGCNNを訓練する。
• 固定されたノード順序に基づく特徴行列を用いて、全結合ネットワーク、CNN、勾配ブースティングされたランダムフォレストと比較し、性能をベンチマークする。
• k近傍法を用いてグラフ構築を形式化し、不規則なメッシュ上でも空間的一致性を保証する。

実験結果

リサーチクエスチョン

• RQ1 固定されたメッシュや特徴の順序を必要とせず、非構造的で散在する速度測定値からグローバルな空力的力（例：抗力）を効果的に予測できるか。
• RQ2 同じ非構造的流れデータに適用した場合、GCNNの性能は従来の構造化機械学習モデル（例：CNN、MLP、XGBoost）と比べてどのように異なるか。
• RQ3 GCNNモデルの入力測定値の順序に対する不変性はどの程度であり、一般化性能やロバストネスにどのように影響するか。
• RQ4 GCNNは異なるメッシュ解像度に一般化可能であり、翼まわりのレイノルズ数が低い流れにおける抗力の予測精度を維持できるか。
• RQ5 k-NNによる接続性を介したグラフベースの帰納的バイアスは、疎なフィールドデータから複雑な流体力学的パターンを学習する上でどのような影響を及ぼすか。

主な発見

• GCNNは検証用の決定係数（R²）が0.98を超えており、予測された抗力と真の抗力との間にほぼ完全な相関があることを示している。
• GCNNの正規化平均二乗誤差（NMSE）は0.01未満であり、未知のテストデータ上で高い回帰精度を示している。
• 同じ非構造的データに対して、全結合ネットワーク、CNN、勾配ブースティングされたランダムフォレストを含むすべてのベースラインモデルを上回る性能を示した。
• モデルは入力ノードの順序に強く依存せず、固定された特徴インデックスではなくグラフ構造に依存しているため、強い不変性を示した。
• GCNNは再トレーニングなしにさまざまなメッシュ解像度に一般化でき、高い精度を維持した。
• グラフベースのアプローチにより、疎で不規則にサンプリングされた速度データからの有効な特徴学習が可能となり、PIV測定のような実世界の実験データに適していることが検証された。