[论文解读] Joint Prediction of Remaining Useful Life and Failure Type of Train Wheelsets: A Multi-task Learning Approach

Weixin Wang|arXiv (Cornell University)|Jan 10, 2021

Infrastructure Maintenance and Monitoring参考文献 2被引用 10

一句话总结

本文提出了一种多任务学习框架，通过共享输入空间联合预测列车轮对的剩余使用寿命（RUL）和故障类型。通过将最小二乘损失用于RUL回归和负对数似然损失用于故障类型分类，结合带有L2/L1正则化的凸优化公式，该方法相比单任务学习实现了3%的预测精度提升。

ABSTRACT

The failures of train wheels account for disruptions of train operations and even a large portion of train derailments. Remaining useful life (RUL) of a wheelset measures the how soon the next failure will arrive, and the failure type reveals how severe the failure will be. RUL prediction is a regression task, whereas failure type is a classification task. In this paper, we propose a multi-task learning approach to jointly accomplish these two tasks by using a common input space to achieve more desirable results. We develop a convex optimization formulation to integrate both least square loss and the negative maximum likelihood of logistic regression, and model the joint sparsity as the L2/L1 norm of the model parameters to couple feature selection across tasks. The experiment results show that our method outperforms the single task learning method by 3% in prediction accuracy.

研究动机与目标

• 为解决导致运营中断和脱轨的列车轮对故障这一关键挑战。
• 同时预测两个相互关联但又不同的任务：将剩余使用寿命（RUL）作为回归问题，将故障类型作为分类问题。
• 通过利用RUL与故障类型预测任务之间的共享表征和特征相关性，提升预测性能。
• 开发一种联合学习框架，通过耦合优化实现共享特征选择并提升泛化能力。
• 在实际铁路维护应用中验证多任务学习相较于单任务学习的优越性。

提出的方法

• 构建一个凸优化问题，将最小二乘损失用于RUL回归，负对数似然损失用于故障类型分类。
• 引入一个共享表征空间，使两个任务能使用一组共同的输入特征同时进行训练。
• 应用L2/L1范数正则化（组lasso）以在模型参数间强制实现联合稀疏性，促进共享特征选择。
• 使用统一的目标函数，通过加权组合平衡回归与分类损失。
• 采用可微分优化框架，联合学习RUL与故障类型预测器，同时保持模型可解释性。
• 使用标准凸优化技术求解优化问题，以确保收敛性和稳定性。

实验结果

研究问题

• RQ1 与单任务学习相比，联合预测RUL与故障类型是否能提升整体预测精度？
• RQ2 在RUL与故障类型任务之间共享特征学习如何影响模型性能与泛化能力？
• RQ3 在耦合回归与分类任务的特征选择中，使用L2/L1正则化有何影响？
• RQ4 所提出的多任务框架是否在真实铁路维护数据中优于基线单任务模型？
• RQ5 当轮对传感器读数存在不同程度的数据稀缺或噪声时，联合预测模型的鲁棒性如何？

主要发现

• 所提出的多任务学习方法相比单任务学习基线，预测精度提升了3%。
• 具有共享特征选择的联合优化框架减少了过拟合现象，并在测试数据上增强了泛化能力。
• L2/L1正则化有效耦合了RUL与故障类型任务之间的特征选择，使模型更加稳健且可解释。
• 与独立训练相比，该模型在回归（RUL）和分类（故障类型）任务中均表现出更优性能。
• 凸优化公式确保了收敛性与稳定性，使该方法适用于铁路维护系统中的实时部署。
• 实证结果证实，联合建模RUL与故障类型相比将其视为独立任务，能获得更好的预测性能。