[论文解读] Quick Learning Mechanism with Cross-Domain Adaptation for Intelligent Fault Diagnosis

Arun Kumar Sharma, Nishchal K. Verma|arXiv (Cornell University)|Mar 16, 2021

Machine Fault Diagnosis Techniques参考文献 42被引用 19

一句话总结

该论文提出了一种基于Net2Net转换和领域自适应的快速学习机制，可迅速将预训练的故障诊断模型适配至新的工业运行条件。通过使用极少的标注目标数据进行微调，并最小化最大均值差异（MMD），该方法在多种工况下均实现了高精度与高稳定性，显著缩短了训练时间，使动态工业环境中的实时故障诊断成为可能。

ABSTRACT

The fault diagnostic model trained for a laboratory case machine fails to perform well on the industrial machines running under variable operating conditions. For every new operating condition of such machines, a new diagnostic model has to be trained which is a time-consuming and uneconomical process. Therefore, we propose a quick learning mechanism that can transform the existing diagnostic model into a new model suitable for industrial machines operating in different conditions. The proposed method uses the Net2Net transformation followed by a fine-tuning to cancel/minimize the maximum mean discrepancy between the new data and the previous one. The fine-tuning of the model requires a very less amount of labelled target samples and very few iterations of training. Therefore, the proposed method is capable of learning the new target data pattern quickly. The effectiveness of the proposed fault diagnosis method has been demonstrated on the Case Western Reserve University dataset, Intelligent Maintenance Systems bearing dataset, and Paderborn university dataset under the wide variations of the operating conditions. It has been validated that the diagnostic model trained on artificially damaged fault datasets can be used to quickly train another model for a real damage dataset.

研究动机与目标

• 解决在工业旋转机械中，针对每种新运行条件均需重新训练故障诊断模型的挑战。
• 通过将源（实验室）模型的知识迁移至目标（工业）领域，减少模型重新训练的时间与成本。
• 在仅使用极少标注目标样本和少量训练迭代的情况下，实现对新数据模式的快速适应。
• 与最先进方法相比，提升模型在不同负载、转速和故障条件下的稳定性与准确性。

提出的方法

• 利用Net2Net转换将预训练的源网络重新配置为适合目标领域的新型网络结构，同时保持函数映射不变。
• 通过最小化源域与目标域特征分布之间的最大均值差异（MMD），实现领域自适应，以减少领域偏移。
• 使用少量标注的目标样本对转换后的网络进行微调，以同时最小化分类损失和MMD。
• 采用联合目标函数：分类损失 + MMD项，以对齐特征并提升泛化能力。
• 利用保持函数特性的原则初始化新网络，避免随机初始化，从而加速收敛。
• 采用随机梯度下降进行反向传播，高效优化微调过程。

实验结果

研究问题

• RQ1 是否可以在不从头重新训练的情况下，快速将预训练的故障诊断模型适配至新的工业运行条件？
• RQ2 基于Net2Net的网络转换在减少训练时间与提升适应速度方面效果如何？
• RQ3 在标注目标数据有限的情况下，基于MMD的领域自适应在多大程度上提升了模型性能？
• RQ4 该方法在负载、转速和故障严重程度广泛变化的情况下是否具有高稳定性？
• RQ5 在人工损伤数据上训练的模型是否能有效迁移至真实故障案例？

主要发现

• 在CWRU数据集上，该方法在不同负载与转速条件下实现了96.12%的准确率，显著优于DNN（88.27%）和DANN（92.45%），且仅使用极少的目标数据。
• 在Paderborn大学数据集上，该方法在高速、高负载条件下达到96.24%的准确率，标准偏差仅为2.05，表明具有高度稳定性。
• 仅使用10%的标注目标样本，该方法在T3上保持92.3%的准确率，在T4上达到90.0%，显著优于DANN（58.6%和65.3%）和DNN（58.6%和65.3%）。
• 在Target-1上，训练时间缩短至55.0秒（采用领域自适应），相比DANN的2476.26秒，实现了45倍的加速。
• t-SNE可视化结果表明，该方法提取的特征比最先进方法具有更清晰的分离性，表明其特征判别能力更强。
• 该方法在将知识从人工损伤数据有效迁移至真实故障案例方面表现出鲁棒性，验证了其在真实世界故障诊断中的实际适用性。