[论文解读] Control theoretically explainable application of autoencoder methods to fault detection in nonlinear dynamic systems

Linlin Li, Steven X. Ding+3 more|arXiv (Cornell University)|Aug 2, 2022

Fault Detection and Control Systems被引用 7

一句话总结

本文提出了一种基于控制理论的自编码器（I-AE），通过确保潜在变量实现无损信息压缩，以实现非线性动态系统中的最优故障检测。通过结合哈密顿系统理论与内部系统设计，该方法实现了无需模型的数据驱动故障检测，在满足误报率约束的前提下实现了最大可检测性，已在三罐系统上得到验证。

ABSTRACT

This paper is dedicated to control theoretically explainable application of autoencoders to optimal fault detection in nonlinear dynamic systems. Autoencoder-based learning is a standard machine learning method and widely applied for fault (anomaly) detection and classification. In the context of representation learning, the so-called latent (hidden) variable plays an important role towards an optimal fault detection. In ideal case, the latent variable should be a minimal sufficient statistic. The existing autoencoder-based fault detection schemes are mainly application-oriented, and few efforts have been devoted to optimal autoencoder-based fault detection and explainable applications. The main objective of our work is to establish a framework for learning autoencoder-based optimal fault detection in nonlinear dynamic systems. To this aim, a process model form for dynamic systems is firstly introduced with the aid of control theory, which also leads to a clear system interpretation of the latent variable. The major efforts are made on the development of a control theoretic solution to the optimal fault detection problem, in which an analog concept to minimal sufficient statistic, the so-called lossless information compression, is introduced and proven for dynamic systems and fault detection specifications. In particular, the existence conditions for such a latent variable are derived, based on which a loss function and further a learning algorithm are developed. This learning algorithm enables optimally training of autoencoders to achieve an optimal fault detection in nonlinear dynamic systems. A case study on three-tank system is given at the end of this paper to illustrate the capability of the proposed autoencoder-based fault detection and to explain the essential role of the latent variable in the proposed fault detection system.

研究动机与目标

• 开发一种无需解析过程模型或求解偏微分方程的、面向非线性动态系统的数据驱动最优故障检测框架。
• 通过将潜在变量与内系统、无损信息压缩等系统理论概念相联系，为基于自编码器的故障检测建立控制理论基础。
• 设计一种学习算法，确保潜在变量是最小充分统计量，从而在满足误报率约束的前提下最大化故障可检测性。
• 在真实非线性动态系统（三罐系统）上验证所提方法，并证明其优于标准自编码器方法。

提出的方法

• 利用互质因式分解和系统像表示构建动态系统模型，实现对潜在变量的控制理论解释。
• 提出非线性系统中无损信息压缩的概念，并证明当系统为内系统时该目标可实现，从而确保最优故障检测。
• 为自编码器（I-AE）设计正则化损失函数，通过嵌入内系统约束，强制潜在变量成为最小充分统计量。
• 应用哈密顿系统理论，将线性时不变（LTI）系统的结论扩展至非线性系统，确保故障检测解的理论最优性。
• 通过互信息速率分析验证潜在变量不包含过程数据中的噪声或不确定性，确认其作为最小充分统计量的角色。
• 采用包含两项正则化项的无模型数据驱动训练过程，以强制实现内系统结构，从而实现最优重建与故障检测。

实验结果

研究问题

• RQ1 能否建立一个控制理论框架，以解释并优化非线性动态系统中基于自编码器的故障检测？
• RQ2 在何种条件下，自编码器中的潜在变量可实现无损信息压缩，从而确保最优故障可检测性？
• RQ3 如何在基于神经网络的自编码器中实现信息论中的最小充分统计量概念以用于故障检测？
• RQ4 能否在不依赖解析过程模型或求解复杂微分方程的前提下，实现在非线性系统中的最优故障检测？
• RQ5 潜在变量在实现最大故障可检测性的同时维持低误报率的过程中起到何种作用？

主要发现

• 在三罐系统上，基于I-AE的故障检测系统相较于标准自编码器实现了显著更高的故障可检测性，同时保持了所需的误报率。
• I-AE中的潜在变量被证明是最小充分统计量，因为输入数据与潜在变量之间的互信息速率等于零，表明其未受噪声或扰动影响。
• 当自编码器被设计为内系统时，数学上可保证实现无损信息压缩，该特性通过正则化损失函数强制实现。
• 所提方法可在无需显式过程模型或解析求解偏微分方程的前提下，实现非线性系统中的最优故障检测。
• 理论分析与TTS20仿真器上的实验结果共同表明，I-AE框架符合控制理论最优性准则，且优于传统基于自编码器的方法。
• 研究表明，潜在变量作为无噪声、信息保持的表示，在实现故障评估最大灵敏度方面起着关键作用。