[論文レビュー] A Novel Method For Designing Transferable Soft Sensors And Its Application

Hossein Shahabadi Farahani, Alireza Fatehi+2 more|arXiv (Cornell University)|Aug 5, 2020

Fault Detection and Control Systems参考文献 45被引用数 7

ひとこと要約

本論文は、産業用状態監視のための移植可能なソフトセンサーを設計するために、転移学習に基づく回帰手法であるドメイン敵対的ニューラルネットワーク回帰（DANN-R）を提案する。敵対的訓練を用いて異なるガスタービン間でドメイン不変の表現を統合することで、DANN-Rは新たなまたはセンシングが不十分なターゲットタービンにおいて、下位発熱値などの主要なプロセス変数を正確に予測可能となり、非転移学習モデルと比較してターゲットドメインのMSEを最大2.93倍まで低減する。

ABSTRACT

In this paper, a new approach is proposed for designing transferable soft sensors. Soft sensing is one of the significant applications of data-driven methods in the condition monitoring of plants. While hard sensors can be easily used in various plants, soft sensors are confined to the specific plant they are designed for and cannot be used in a new plant or even used in some new working conditions in the same plant. In this paper, a solution is proposed for this underlying obstacle in data-driven condition monitoring systems. Data-driven methods suffer from the fact that the distribution of the data by which the models are constructed may not be the same as the distribution of the data to which the model will be applied. This ultimately leads to the decline of models accuracy. We proposed a new transfer learning (TL) based regression method, called Domain Adversarial Neural Network Regression (DANN-R), and employed it for designing transferable soft sensors. We used data collected from the SCADA system of an industrial power plant to comprehensively investigate the functionality of the proposed method. The result reveals that the proposed transferable soft sensor can successfully adapt to new plants.

研究の動機と目的

• あるプラントや条件下で訓練されたモデルが、新しいプラントや運用条件に適用された際に性能を発揮できないという、データ駆動型状態監視システムにおけるデータ分布シフトの深刻な課題に対処すること。
• 従来のソフトセンサーが、分布シフトのため新しい環境に導入すると精度を失うという限界を克服すること。
• 転移学習を用いて、ソースガスタービンからターゲットタービンへ知識を転送できる、強固で移植可能なソフトセンサー枠組みを構築すること。
• マルチタービン発電所のSCADAデータを用いた実世界の産業応用において、提案手法の有効性を実証すること。
• ハードウェアセンサが装備されていないタービンや、PGテストなどの限られたデータ収集期間中に、測定が困難なプロセス変数（例：LHV）を費用対効果よく正確に推定することを可能にすること。

提案手法

• ドメイン敵対的ニューラルネットワーク回帰（DANN-R）モデルを提案し、深層ニューラルネットワークとドメイン敵対的訓練を組み合わせて、ドメイン不変の特徴を学習する。
• 複数のガスタービン（ソースドメイン）の歴史的SCADAデータを用いて、主なプロセス変数（例：LHV）を予測するが、同時にドメイン識別可能性を低減するための敵対的ディスクライマーを用いて学習する。
• 勾配反転層を用いて、ドメイン分類損失を逆方向にバックプロパゲートすることで、特徴抽出器がドメインシフトに対して不変な表現を学習するよう促進する。
• 訓練済みのDANN-Rモデルを、トレーニング時に未観測の新しいターゲットタービンに適用し、転送された知識を用いて目的変数を推定する。
• 回帰用の平均二乗誤差（MSE）損失とドメイン敵対的損失を最適化することで、ソースドメインとターゲットドメインの分布を一致させる。
• 単一ソースおよび複数ソースドメインの設定を用いて、転移学習有無のターゲットタービンにおける予測性能（MSE）を比較することで、転送性を評価する。

実験結果

リサーチクエスチョン

• RQ1 あるガスタービンで訓練されたデータ駆動型ソフトセンサーのモデルが、同じ発電所内での異なるデータ分布を持つ別のタービンへ効果的に転送可能か。
• RQ2 ドメイン敵対的訓練は、異なる運用特性を示す産業用タービン間でソフトセンサーの一般化性能をどの程度向上させるか。
• RQ3 未観測のタービンにおいて、下位発熱値（LHV）などの主要プロセス変数を予測する際、移植可能なモデルと非移植可能なモデルの性能はどのように異なるか。
• RQ4 複数のソースタービン（マルチソースドメイン）を用いることで、単一ソース設定と比較してソフトセンサーの転送性と耐性が向上するか。
• RQ5 データが不足している、または限定的な条件（例：PGテスト）で収集されたデータのターゲットドメインにおいて、提案手法が予測誤差を低減できるか。

主な発見

• 単一ソースタービンをソースドメインとして使用した場合、提案されたDANN-R手法はターゲットドメインにおける平均二乗誤差（MSE）を平均2.93倍低減した。
• 他のすべてのタービンをソースドメインとして使用した場合、非転移学習ベースラインと比較して、ターゲットドメインのMSEは平均1.81倍低減した。
• 転移学習なしの場合、ターゲットドメインの平均MSEはマルチソース設定の5.18倍も高かった。これは、より豊富なソースデータが一般化性能を向上させるが、DANN-Rが依然として顕著な改善をもたらすことを示している。
• マルチソースデータによるソースドメインでの一般化性能が向上しても、DANN-Rモデルは依然としてターゲットドメインで平均1.81倍のMSE低減を達成しており、強力な転送性を示している。
• 本手法は、ハードウェアセンサが装備されていないタービンにおいても、下位発熱値（LHV）などの主要変数を正確に予測可能となった。また、トレーニングデータが限られている、または特別な条件（例：PGテスト）で収集された場合でも同様に有効であった。
• ドメイン不変性と回帰精度のトレードオフのため、ソースドメインにおける性能がわずかに低下したが、これは敵対的ドメイン適応の期待される挙動を確認するものであった。