[论文解读] Turbulence in Focus: Benchmarking Scaling Behavior of 3D Volumetric Super-Resolution with BLASTNet 2.0 Data

Wai Tong Chung, Bassem Akoush+10 more|arXiv (Cornell University)|Sep 23, 2023

Advanced Image Processing Techniques被引用 7

一句话总结

本文介绍了 BLASTNet 2.0，一个包含 744 个高保真 3D 压缩湍流模拟的 2.2 TB 公共数据集，并对五种深度学习模型的 49 种变体在 3D 体积超分辨率任务上进行了基准测试。结果表明，模型性能随规模和成本呈对数增长，架构选择对性能影响显著——尤其在小模型中更为关键，且基于物理的损失函数即使在大模型中仍能保持优势。

ABSTRACT

Analysis of compressible turbulent flows is essential for applications related to propulsion, energy generation, and the environment. Here, we present BLASTNet 2.0, a 2.2 TB network-of-datasets containing 744 full-domain samples from 34 high-fidelity direct numerical simulations, which addresses the current limited availability of 3D high-fidelity reacting and non-reacting compressible turbulent flow simulation data. With this data, we benchmark a total of 49 variations of five deep learning approaches for 3D super-resolution - which can be applied for improving scientific imaging, simulations, turbulence models, as well as in computer vision applications. We perform neural scaling analysis on these models to examine the performance of different machine learning (ML) approaches, including two scientific ML techniques. We demonstrate that (i) predictive performance can scale with model size and cost, (ii) architecture matters significantly, especially for smaller models, and (iii) the benefits of physics-based losses can persist with increasing model size. The outcomes of this benchmark study are anticipated to offer insights that can aid the design of 3D super-resolution models, especially for turbulence models, while this data is expected to foster ML methods for a broad range of flow physics applications. This data is publicly available with download links and browsing tools consolidated at https://blastnet.github.io.

研究动机与目标

• 解决科学机器学习领域中大规模、高保真 3D 压缩湍流流动数据集稀缺的问题。
• 实现对多种深度学习架构和损失函数的 3D 超分辨率模型系统性基准测试。
• 研究模型规模、成本和架构设计对 3D 体积超分辨率预测性能的影响。
• 评估基于物理的损失函数（如梯度损失）在模型规模增大时是否仍具持久效用。
• 提供一个公开可访问、可复现的基准数据集与框架，以加速湍流建模与科学机器学习的研究。

提出的方法

• 整理 BLASTNet 2.0，一个 2.2 TB 的数据集，包含 744 个全域直接数值模拟（DNS）结果，涵盖 34 种配置下的可压缩非反应与反应性湍流流动。
• 将 DNS 数据预处理为 Momentum128 3D SR 数据集，作为 3D 超分辨率的标准化基准，具有 128³ 分辨率和 16 通道输入/输出。
• 实现五种不同的深度学习架构用于 3D 超分辨率，包括通用型与物理信息模型。
• 采用神经缩放分析评估模型规模与训练成本增加带来的性能提升，使用 PSNR 和 SSIM 等指标。
• 在部分模型中集成基于物理的损失函数（如梯度损失），以在预测的流动场中强制实现物理一致性。
• 将数据集托管于 Kaggle，附带 DOI（10.5281/zenodo.7242864），并通过 https://blastnet.github.io 提供浏览器工具，确保公众访问与可复现性。

实验结果

研究问题

• RQ1 在 3D 体积超分辨率中，模型性能如何随模型规模和训练成本的增加而变化？
• RQ2 架构设计在多大程度上影响性能，尤其是在小模型中？
• RQ3 随着模型容量的增加，基于物理的损失函数（如梯度正则化）是否仍能持续提升性能？
• RQ4 不同深度学习架构在从低分辨率输入重建细尺度湍流结构方面表现如何？
• RQ5 像 Momentum128 3D SR 这样标准化的公开可用数据集能否实现可复现的基准测试，并加速科学 3D 超分辨率的发展？

主要发现

• 3D 超分辨率中的预测性能随模型规模和训练成本呈对数增长，表明容量增加可带来持续的性能增益。
• 架构选择显著影响性能，尤其在小模型中，架构设计的影响远超单纯参数数量的影响。
• 即使在大模型中，基于物理的梯度损失仍能提供可测量的性能提升，表明其效用不限于小规模模型。
• Momentum128 3D SR 数据集源自 BLASTNet 2.0，可实现对五种深度学习方法中 49 种模型变体的可复现基准测试。
• 该数据集以 CC BY-SA NC 4.0 许可公开发布，附带 DOI，并托管于 Kaggle，确保长期可访问性与社区参与。
• 本研究为未来在湍流建模中开展 3D 超分辨率研究奠定了基础，对科学成像、模拟加速及物理发现具有重要意义。