[论文解读] A Novel Method For Designing Transferable Soft Sensors And Its Application

Hossein Shahabadi Farahani, Alireza Fatehi+2 more|arXiv (Cornell University)|Aug 5, 2020

Fault Detection and Control Systems参考文献 45被引用 7

一句话总结

本文提出了一种基于迁移学习的新型回归方法——领域对抗神经网络回归（DANN-R），用于设计可迁移的工业状态监测软传感器。通过使用对抗性训练在不同燃气轮机之间对齐领域不变表示，DANN-R 能够在新轮机或传感器不足的轮机上准确预测关键过程变量（如低热值），与非迁移学习模型相比，目标领域均方误差（MSE）最高可降低 2.93 倍。

ABSTRACT

In this paper, a new approach is proposed for designing transferable soft sensors. Soft sensing is one of the significant applications of data-driven methods in the condition monitoring of plants. While hard sensors can be easily used in various plants, soft sensors are confined to the specific plant they are designed for and cannot be used in a new plant or even used in some new working conditions in the same plant. In this paper, a solution is proposed for this underlying obstacle in data-driven condition monitoring systems. Data-driven methods suffer from the fact that the distribution of the data by which the models are constructed may not be the same as the distribution of the data to which the model will be applied. This ultimately leads to the decline of models accuracy. We proposed a new transfer learning (TL) based regression method, called Domain Adversarial Neural Network Regression (DANN-R), and employed it for designing transferable soft sensors. We used data collected from the SCADA system of an industrial power plant to comprehensively investigate the functionality of the proposed method. The result reveals that the proposed transferable soft sensor can successfully adapt to new plants.

研究动机与目标

• 解决数据驱动状态监测系统中数据分布偏移的关键挑战，即在某一电厂或工况下训练的模型在应用于新电厂或新工作条件时失效的问题。
• 克服传统软传感器的局限性，即其不可迁移，且由于分布偏移在新环境中部署时精度下降。
• 开发一种稳健的、可迁移的软传感器框架，利用迁移学习实现从源燃气轮机到目标轮机的知识迁移。
• 通过使用来自多轮机热电厂的 SCADA 数据，在真实工业应用中验证所提方法的有效性。
• 实现在缺乏硬件传感器的轮机或数据采集受限时期（如 PG 测试）中，对难以测量的过程变量（如 LHV）进行成本低、精度高的估计。

提出的方法

• 提出领域对抗神经网络回归（DANN-R）模型，结合深度神经网络与领域对抗训练，以学习领域不变特征。
• 在来自多个燃气轮机（源领域）的历史 SCADA 数据上训练模型，以预测关键过程变量（如 LHV），同时通过对抗判别器最小化领域可区分性。
• 使用梯度反转层将领域分类损失反向传播，促使特征提取器学习对领域偏移不敏感的表示。
• 将训练好的 DANN-R 模型应用于新的目标轮机（训练期间未见过），利用迁移知识估计目标变量。
• 使用均方误差（MSE）损失进行回归优化，并使用领域对抗损失对齐源域与目标域的分布。
• 通过比较在无迁移学习与有迁移学习条件下目标轮机上的预测性能（MSE），评估迁移能力，采用单源与多源领域设置。

实验结果

研究问题

• RQ1 在某一燃气轮机上训练的数据驱动软传感器模型，能否有效迁移至同一热电厂中数据分布不同的另一台轮机？
• RQ2 领域对抗训练在多台具有不同运行特性的工业轮机之间，能在多大程度上提升软传感器的泛化能力？
• RQ3 在未见轮机上预测关键过程变量（如低热值）时，可迁移软传感器的性能与非可迁移模型相比如何？
• RQ4 与单源设置相比，使用多台源轮机（多源领域）是否能增强软传感器的迁移能力与鲁棒性？
• RQ5 在数据稀缺或仅在有限条件下（如 PG 测试）采集数据的目标领域中，所提方法是否能降低预测误差？

主要发现

• 当以单台源轮机作为源领域时，所提出的 DANN-R 方法在目标领域中平均将均方误差（MSE）降低了 2.93 倍。
• 当以其余所有轮机作为源领域时，与非迁移学习基线相比，目标领域的 MSE 平均降低了 1.81 倍。
• 在无迁移学习情况下，目标领域的平均 MSE 比多源设置高 5.18 倍，表明更丰富的源数据可提升泛化能力，但 DANN-R 仍带来显著改进。
• 尽管多源数据提升了源领域的泛化能力，DANN-R 模型在目标领域中仍实现了平均 1.81 倍的 MSE 降低，证明其具备强大的迁移能力。
• 该方法成功实现了对无硬件传感器轮机中关键变量（如低热值 LHV）的准确预测，即使在训练数据有限或特殊条件下（如 PG 测试）采集时亦成立。
• 由于领域不变性与回归精度之间的权衡，迁移学习在源领域中性能略有下降，证实了对抗领域自适应的预期行为。