[论文解读] Stability selection enables robust learning of partial differential equations from limited noisy data

Suryanarayana Maddu, Bevan L. Cheeseman+2 more|arXiv (Cornell University)|Jul 17, 2019

Probabilistic and Robust Engineering Design参考文献 66被引用 15

一句话总结

本文提出PDE-STRIDE，一种基于稳定性选择的框架，可从有限、含噪的时空数据中实现鲁棒、无参数的偏微分方程（PDE）识别。通过结合稳定性选择与迭代硬阈值化方法，该方法在模拟数据和真实生物数据（包括C. elegans卵母细胞中的反应-扩散动力学）中均实现了高精度与强抗噪能力。

ABSTRACT

We present a statistical learning framework for robust identification of partial differential equations from noisy spatiotemporal data. Extending previous sparse regression approaches for inferring PDE models from simulated data, we address key issues that have thus far limited the application of these methods to noisy experimental data, namely their robustness against noise and the need for manual parameter tuning. We address both points by proposing a stability-based model selection scheme to determine the level of regularization required for reproducible recovery of the underlying PDE. This avoids manual parameter tuning and provides a principled way to improve the method's robustness against noise in the data. Our stability selection approach, termed PDE-STRIDE, can be combined with any sparsity-promoting penalized regression model and provides an interpretable criterion for model component importance. We show that in particular the combination of stability selection with the iterative hard-thresholding algorithm from compressed sensing provides a fast, parameter-free, and robust computational framework for PDE inference that outperforms previous algorithmic approaches with respect to recovery accuracy, amount of data required, and robustness to noise. We illustrate the performance of our approach on a wide range of noise-corrupted simulated benchmark problems, including 1D Burgers, 2D vorticity-transport, and 3D reaction-diffusion problems. We demonstrate the practical applicability of our method on real-world data by considering a purely data-driven re-evaluation of the advective triggering hypothesis for an embryonic polarization system in C.~elegans. Using fluorescence microscopy images of C.~elegans zygotes as input data, our framework is able to recover the PDE model for the regulatory reaction-diffusion-flow network of the associated proteins.

研究动机与目标

• 解决现有稀疏回归方法在应用于含噪实验数据时PDE识别缺乏鲁棒性的问题。
• 消除PDE学习框架中对正则化参数手动调优的需求。
• 开发一种系统化、可复现的模型选择策略，以提升推断PDE的可靠性与可解释性。
• 在合成基准问题与真实世界生物数据（如C. elegans胚胎极性）上展示该方法的有效性。
• 为模型组件提供可解释的重要性评分，支持直观的模型构建与验证。

提出的方法

• 提出一种基于稳定性选择的框架——PDE-STRIDE，通过重复子采样与组件频率追踪，实现PDE识别中正则化水平的选择。
• 将稳定性选择与压缩感知中的迭代硬阈值化（IHT）算法相结合，实现快速、无参数的PDE学习。
• 使用候选PDE项字典，包括空间与时间导数及非线性项，直接从含噪数据中计算得出。
• 对数据进行子采样以生成多个训练集，计算这些集合中模型组件的频率，并选择稳定性分数高的组件。
• 采用基于项在子样本中被选中的比例的阈值规则，确保结果可复现并减少假阳性。
• 通过为每个候选PDE项提供概率重要性度量，实现可解释的模型发现。

实验结果

研究问题

• RQ1 稳定性选择能否在无需手动调节正则化参数的情况下，提升从有限、含噪数据中识别PDE的鲁棒性？
• RQ2 在噪声水平逐渐增加的条件下，PDE-STRIDE框架在恢复已知PDE（如Burgers方程、涡度输运方程、Gray-Scott反应-扩散方程）方面的表现如何？
• RQ3 PDE-STRIDE在多大程度上能从C. elegans卵母细胞的实时荧光显微镜数据中恢复出具有生物学意义的PDE模型？
• RQ4 该方法能否可靠估计在不同数据与噪声条件下准确恢复PDE所需的样本复杂度？
• RQ5 稳定性路径与组件重要性评分在复杂生物系统中如何支持半自动、可解释的模型发现？

主要发现

• PDE-STRIDE在高达6%高斯噪声的污染数据中，成功完整恢复了一维Burgers方程、二维涡度输运方程与三维Gray-Scott反应-扩散方程。
• 随着样本数量增加，该方法表现出一致的恢复概率，证实其统计一致性与强抗噪能力。
• 该框架成功从荧光显微镜图像中直接推断出C. elegans卵母细胞PAR极性网络的数据驱动PDE模型，且无需预先知晓其物理机制。
• 所恢复的PDE模型能准确预测从早期空间域到实验中观察到的完全极化模式的时空动力学。
• 先前通过大量生化研究确定的关键调控蛋白之间的相互抑制作用，被该方法从数据中自动恢复。
• 稳定性路径与组件重要性评分提供了可解释的概率性洞察，支持直观的模型验证与优化。