[论文解读] Machine learning prediction of critical transition and system collapse

Ling-Wei Kong, Huawei Fan+2 more|arXiv (Cornell University)|Dec 2, 2020

Neural Networks and Reservoir Computing参考文献 1被引用 4

一句话总结

本论文提出了一种无需模型的机器学习框架，采用参数感知的储层计算方法，用于预测非线性动力系统中的临界转变与系统崩溃。通过将分岔参数作为输入通道，该方法即使仅在稳定、混沌状态下的数据上进行训练，也能准确预测临界转变点及崩溃前的平均瞬态寿命。

ABSTRACT

To predict a critical transition due to parameter drift without relying on model is an outstanding problem in nonlinear dynamics and applied fields. A closely related problem is to predict whether the system is already in or if the system will be in a transient state preceding its collapse. We develop a model free, machine learning based solution to both problems by exploiting reservoir computing to incorporate a parameter input channel. We demonstrate that, when the machine is trained in the normal functioning regime with a chaotic attractor (i.e., before the critical transition), the transition point can be predicted accurately. Remarkably, for a parameter drift through the critical point, the machine with the input parameter channel is able to predict not only that the system will be in a transient state, but also the average transient time before the final collapse.

研究动机与目标

• 开发一种无需依赖已知系统方程的、无模型的、基于数据的方法，用于预测非线性动力系统中的临界转变与系统崩溃。
• 解决在传统方法无法将瞬态混沌状态与持续混沌区分开来时，检测系统是否已进入导致不可避免崩溃的瞬态混沌状态的挑战。
• 实现在系统进入瞬态混沌前，对临界参数值的早期预测，从而在崩溃前实现及时干预。
• 预测临界点之后瞬态混沌的平均寿命，提供系统存活时间的定量估计。
• 在实际系统（如电力系统和生态食物链）中展示该方法的有效性，这些系统在灾难性崩溃前均表现出瞬态混沌特征。

提出的方法

• 通过为分岔参数增设专用输入通道，改进储层计算，使网络能够学习系统动力学对参数变化的依赖关系。
• 仅使用在正常混沌状态（临界转变前）采集的时间序列数据对储层机器进行训练，采用多个不同的参数值（例如 K = 0.97, 0.98, 0.99）。
• 利用训练好的储层识别系统行为从持续混沌转变为瞬态混沌的参数值，从而预测临界转变点。
• 通过在多个储层实现上进行集合平均，分析临界点后的预测动力学，以估计平均瞬态寿命。
• 利用储层在训练参数范围之外的泛化能力，即使在训练中未使用过的参数值下，也能预测临界转变与瞬态寿命。
• 通过回归图与瞬态寿命分布验证预测结果，将预测结果与数值模拟的真实值进行比较。

实验结果

研究问题

• RQ1 仅在稳定混沌状态数据上训练的机器学习模型，能否准确预测系统发生灾难性转变进入瞬态混沌的临界参数值？
• RQ2 在无法获取转变后数据的情况下，模型能否准确预测系统崩溃前瞬态混沌的平均持续时间？
• RQ3 当持续混沌与瞬态混沌表现出相似可观测行为时，储层机器在多大程度上能将二者区分开？
• RQ4 该模型在训练范围之外的参数值上泛化能力如何？预测精度如何随训练点与临界点的距离变化？
• RQ5 该框架能否应用于具有复杂、非稀疏动力学的现实系统（如电力系统与生态食物链），其中系统方程未知？

主要发现

• 在 K = 0.97、0.98 和 0.99 下训练的储层机器，对三营养级食物链模型的临界转变点预测为 K*c = 0.9997 ± 4×10⁻⁴，与真实值 Kc = 0.99976 非常接近。
• 在 K = Kc + 2×10⁻⁴ 处预测的平均瞬态寿命为 1.35×10³，与真实值 1.33×10³ 非常吻合。
• 该方法成功预测了易发生电压崩溃的电力系统中通过瞬态混沌引发的临界转变与瞬态寿命。
• 该框架在训练参数范围之外的系统行为预测中表现出鲁棒性，且当训练点更接近临界点时，预测精度更高。
• 对 500 个储层实现进行集合平均显著降低了预测误差，表明集体预测比单个预测更准确。
• 该方法为已处于瞬态混沌的系统提供了可靠的早期预警系统，即使在无崩溃后数据的情况下，也能检测到不可避免的崩溃。