[论文解读] Comparison of linear regressions and neural networks for fluid flow problems assisted with error-curve analysis

Taichi Nakamura, Kai Fukami+1 more|arXiv (Cornell University)|May 3, 2021

Model Reduction and Neural Networks参考文献 28被引用 5

一句话总结

本研究通过误差曲线分析，比较了线性回归（LSE）与神经网络（NNs）在流体流动回归任务中的表现，结果表明，由于能够捕捉复杂的流动动力学，非线性模型（如MLP和CNN）优于线性方法。主要贡献在于通过误差曲线域分析，对模型在噪声干扰下的鲁棒性及行为特征进行了可视化与定量比较。

ABSTRACT

Neural networks (NNs) and linear stochastic estimation (LSE) have widely been utilized as powerful tools for fluid-flow regressions. We investigate fundamental differences between them considering two canonical fluid-flow problems: 1. the estimation of high-order proper orthogonal decomposition coefficients from low-order their counterparts for a flow around a two-dimensional cylinder, and 2. the state estimation from wall characteristics in a turbulent channel flow. In the first problem, we compare the performance of LSE to that of a multi-layer perceptron (MLP). With the channel flow example, we capitalize on a convolutional neural network (CNN) as a nonlinear model which can handle high-dimensional fluid flows. For both cases, the nonlinear NNs outperform the linear methods thanks to nonlinear activation functions. We also perform error-curve analyses regarding the estimation error and the response of weights inside models. Our analysis visualizes the robustness against noisy perturbation on the error-curve domain while revealing the fundamental difference of the covered tools for fluid-flow regressions.

研究动机与目标

• 研究线性随机估计（LSE）与非线性神经网络（NNs）在流体流动回归任务中的基本差异。
• 评估MLP和CNN在估计高阶本征正交分解（POD）系数及基于壁面特征的状态估计中相对于LSE的性能。
• 通过误差曲线可视化与权重响应分析，分析模型在输入噪声扰动下的鲁棒性。
• 识别非线性激活函数在超越线性建模能力、捕捉复杂流体动力学方面的优势。

提出的方法

• 应用多层感知机（MLP）神经网络，从二维圆柱流中的低阶对应量估计高阶POD系数。
• 利用卷积神经网络（CNN）基于壁面测量数据，实现对湍流通道流中高维状态的估计。
• 通过在输入数据中引入不同噪声水平，追踪估计误差与内部权重响应，开展误差曲线分析。
• 通过在误差曲线域中可视化误差动态，比较LSE与NNs的敏感性与稳定性。
• 采用统计分析量化模型在噪声扰动下的性能与鲁棒性。
• 在圆柱流问题中应用本征正交分解（POD）进行降维，以实现高效的回归。

实验结果

研究问题

• RQ1 在二维圆柱流中，神经网络与线性随机估计（LSE）在从低阶系数估计高阶POD系数方面表现如何比较？
• RQ2 MLP和CNN中的非线性激活函数在流体流动问题中，相较于线性模型，能在多大程度上提升回归精度？
• RQ3 误差曲线域分析如何揭示在输入噪声条件下，LSE与神经网络模型在鲁棒性方面的差异？
• RQ4 内部权重的响应为流体流动回归任务中的模型稳定性与泛化能力提供了哪些见解？
• RQ5 在基于壁面特征的高维湍流通道流状态估计中，CNN在哪些方面优于线性方法？

主要发现

• 采用非线性激活函数的神经网络在二维圆柱流与湍流通道流问题中，始终优于线性随机估计（LSE）。
• MLP在估计高阶POD系数方面表现出更高的精度，尤其在捕捉非线性流动特征方面表现更优。
• CNN模型在湍流通道流的高维状态估计中表现良好，展现出从壁面测量中有效泛化的潜力。
• 误差曲线分析表明，神经网络对输入噪声具有更强鲁棒性，其误差动态更平滑、更可预测，优于LSE。
• 权重响应分析显示，神经网络对扰动的适应能力更强，表明其内部模型稳定性更优。
• 本研究证实，非线性模型更适合复杂流体流动回归任务，因其能够有效建模复杂且非高斯的流动行为。