[論文レビュー] Integrating Neural Operators with Diffusion Models Improves Spectral Representation in Turbulence Modeling

Vivek Oommen, Aniruddha Bora+2 more|arXiv (Cornell University)|Sep 13, 2024

Energy Load and Power Forecasting被引用数 6

ひとこと要約

本論文は神経演算子と拡散モデルを組み合わせて乱流代理モデルにおけるスペクトルバイアスを克服し、複数のデータセットと神経演算子アーキテクチャ全体でエネルギースペクトルとスペクトル忠実性を向上させる。

ABSTRACT

We integrate neural operators with diffusion models to address the spectral limitations of neural operators in surrogate modeling of turbulent flows. While neural operators offer computational efficiency, they exhibit deficiencies in capturing high-frequency flow dynamics, resulting in overly smooth approximations. To overcome this, we condition diffusion models on neural operators to enhance the resolution of turbulent structures. Our approach is validated for different neural operators on diverse datasets, including a high Reynolds number jet flow simulation and experimental Schlieren velocimetry. The proposed method significantly improves the alignment of predicted energy spectra with true distributions compared to neural operators alone. This enables the diffusion models to stabilize longer forecasts through diffusion-corrected autoregressive rollouts, as we demonstrate in this work. Additionally, proper orthogonal decomposition analysis demonstrates enhanced spectral fidelity in space-time. This work establishes a new paradigm for combining generative models with neural operators to advance surrogate modeling of turbulent systems, and it can be used in other scientific applications that involve microstructure and high-frequency content. See our project page: vivekoommen.github.io/NO_DM

研究の動機と目的

• 代理乱流モデリングにおける神経演算子のスペクトル的制約を動機付け、対処する。
• 神経演算子出力を条件として拡散モデルを制御し、高周波成分を回復させる枠組みを提案する。
• 複数の神経演算子アーキテクチャと多様な乱流データセットにわたってこのアプローチを実証する。
• 神経演算子のみと比較して、スペクトル統計とPOD解析を通じて改善を定量化する。

提案手法

• 関数空間間の写像を学習し、支配的な低周波モードを捕捉する神経演算子を訓練する。
• 神経演算子の出力を条件とするスコアベース拡散モデルを訓練し、デノイズスコアマッチングを介して真の分布を近似する。
• 拡散モデル内でアニール Langevin ダイナミクスサンプリングを用いて、神経演算子事前情報に条件付けられた予測を生成する。
• Kolmogorov流、浮力駆動輸送、乱流翼啓の尾流、3D乱流ジェット、Schlieren測定データでフレームワークを評価する。
• エネルギースペクトルとPODモードを真値と比較してスペクトル忠実性を評価する。

実験結果

リサーチクエスチョン

• RQ1 神経演算子出力を条件とする拡散モデルは、乱流フローにおける神経演算子のスペクトルバイアスや過平滑化を緩和できるか。
• RQ2 条件付けされた拡散モデルは、さまざまな流れのレジームと神経演算子アーキテクチャにわたってエネルギースペクトルとPODモードの真値との整合性を改善するか。
• RQ3 本手法は2D/3Dの流れやシュレーレン測定データのような実験データにも頑健か。
• RQ4 乱流の代理モデリングにおける神経演算子と拡散ベースの補正の計算的トレードオフは何か。

主な発見

• 神経演算子を条件とする拡散モデルは、より高周波成分を回復し、神経演算子予測に観察されるギブス振動を低減する。
• 拡散条件付き予測は、複数のケースと神経演算子アーキテクチャ（FNO、UNet、MATCHO）で真のエネルギースペクトルとの整合性が向上する。
• POD解析は、神経演算子のみと比較してスペクトル忠実性の向上とエネルギー減衰およびモードのより正確さを示す。
• このアプローチはレイノルズ数2000から10^6まで機能し、2D/3D LESおよびSchlieren実験データを含む。
• 拡散モデルは推論あたりの時間が神経演算子より多くかかるが、DNS/LESソルバーよりはなお大幅に高速である。