[論文レビュー] Control theoretically explainable application of autoencoder methods to fault detection in nonlinear dynamic systems

Linlin Li, Steven X. Ding+3 more|arXiv (Cornell University)|Aug 2, 2022

Fault Detection and Control Systems被引用数 7

ひとこと要約

本稿は、損失なしの情報圧縮を達成する潜在変数を保証することで、非線形動的システムにおける最適な故障検出のための制御理論的根拠を持つ自己符号化器（I-AE）を提案する。ハミルトニアン系理論と内部系設計を組み合わせることで、解析的プロセスモデルを必要とせず、偏微分方程式を解く必要もなく、誤報率制約を満たしつつ最大の検出可能性を実現するデータ駆動型、モデルフリーな故障検出が可能になる。三槽システムを用いた実験で検証された。

ABSTRACT

This paper is dedicated to control theoretically explainable application of autoencoders to optimal fault detection in nonlinear dynamic systems. Autoencoder-based learning is a standard machine learning method and widely applied for fault (anomaly) detection and classification. In the context of representation learning, the so-called latent (hidden) variable plays an important role towards an optimal fault detection. In ideal case, the latent variable should be a minimal sufficient statistic. The existing autoencoder-based fault detection schemes are mainly application-oriented, and few efforts have been devoted to optimal autoencoder-based fault detection and explainable applications. The main objective of our work is to establish a framework for learning autoencoder-based optimal fault detection in nonlinear dynamic systems. To this aim, a process model form for dynamic systems is firstly introduced with the aid of control theory, which also leads to a clear system interpretation of the latent variable. The major efforts are made on the development of a control theoretic solution to the optimal fault detection problem, in which an analog concept to minimal sufficient statistic, the so-called lossless information compression, is introduced and proven for dynamic systems and fault detection specifications. In particular, the existence conditions for such a latent variable are derived, based on which a loss function and further a learning algorithm are developed. This learning algorithm enables optimally training of autoencoders to achieve an optimal fault detection in nonlinear dynamic systems. A case study on three-tank system is given at the end of this paper to illustrate the capability of the proposed autoencoder-based fault detection and to explain the essential role of the latent variable in the proposed fault detection system.

研究の動機と目的

• 解析的プロセスモデルや偏微分方程式の解法を必要としない、非線形動的システムに対するデータ駆動型で最適な故障検出フレームワークの構築。
• 潜在変数をシステム理論的概念（内部系、損失なしの情報圧縮など）と結びつけることで、自己符号化器に基づく故障検出に制御理論的基盤を確立すること。
• 潜在変数が最小十分統計量となるように保証する学習アルゴリズムの設計により、誤報率制約のもとで故障検出可能性を最大化すること。
• 提案手法を実世界の非線形動的システム（三槽システム）に適用し、標準的な自己符号化器手法と比較して優位性を示すこと。

提案手法

• 互いに素な因子分解とシステム画像表現を用いて動的システムモデルを定式化し、潜在変数の制御理論的解釈を可能にする。
• 非線形システムにおける損失なしの情報圧縮の概念を導入し、システムが内部系である場合にその達成が保証されることを証明し、最適な故障検出を実現する。
• 内部系制約を埋め込むことで、潜在変数が最小十分統計量となるように制御する正則化損失関数を自己符号化器（I-AE）に開発する。
• ハミルトニアン系理論を用いて、線形時不変（LTI）系の結果を非線形系へ拡張し、故障検出解の理論的最適性を保証する。
• 相互情報量レート解析を用いて、潜在変数がプロセスデータからのノイズや不確実性を含まないことを確認し、最小十分統計量としての役割を裏付ける。
• 正則化項を2つ含むデータ駆動型学習手順を採用し、内部系構造を強制することで、最適な再構成と故障検出を実現する。

実験結果

リサーチクエスチョン

• RQ1 非線形動的システムにおける自己符号化器ベースの故障検出を説明・最適化するための制御理論的フレームワークを構築できるか？
• RQ2 自己符号化器の潜在変数が、最適な故障検出を保証する損失なしの情報圧縮を達成するのはどのような条件下か？
• RQ3 情報理論における最小十分統計量の概念を、故障検出を目的としたニューラルネットワークベースの自己符号化器でどのように実現できるか？
• RQ4 解析的プロセスモデルや複雑な微分方程式の解法に依存せずに、非線形系で最適な故障検出を達成できるか？
• RQ5 潜在変数は、低誤報率を維持しつつ、最大の故障検出可能性を達成するために果たす役割は何か？

主な発見

• 三槽システムにおいて、I-AEに基づく故障検出システムは、標準的な自己符号化器と比較して著しく高い故障検出可能性を達成しながら、必要な誤報率を維持している。
• I-AEにおける潜在変数は、入力データと潜在変数間の相互情報量レートがゼロであることが証明されており、ノイズや摂動による汚損がないことを示しており、最小十分統計量であることが裏付けられている。
• 自己符号化器が内部系として設計されている場合、損失なしの情報圧縮が数学的に保証される。これは正則化損失関数によって内部系構造が強制されることで実現される。
• 本手法により、明示的なプロセスモデルや偏微分方程式の解析的解法を必要とせず、非線形系における最適な故障検出が可能になる。
• TTS20シミュレータを用いた理論的分析と実験結果から、I-AEフレームワークが制御理論的最適性基準と整合しており、従来のAEベースの手法を上回ることが確認された。
• 本研究は、潜在変数がノイズのない情報保持表現として機能することが、故障評価における最大の感度を達成するために不可欠であることを示した。