[论文解读] Transfer Learning as an Enabler of the Intelligent Digital Twin

Benjamin Maschler, Dominik Braun+2 more|arXiv (Cornell University)|Jan 1, 2020

Digital Transformation in Industry参考文献 25被引用 3

一句话总结

本文提出在智能数字孪生中应用迁移学习，以加速工业系统中人工智能模型的开发与部署。通过在物理部署前于仿真环境中训练模型，并利用真实数据进行微调，该方法减少了训练时间与数据需求，实现了网络物理生产系统中高效故障预测与强化学习。

ABSTRACT

Digital Twins have been described as beneficial in many areas, such as virtual commissioning, fault prediction or reconfiguration planning. Equipping Digital Twins with artificial intelligence functionalities can greatly expand those beneficial applications or open up altogether new areas of application, among them cross-phase industrial transfer learning. In the context of machine learning, transfer learning represents a set of approaches that enhance learning new tasks based upon previously acquired knowledge. Here, knowledge is transferred from one lifecycle phase to another in order to reduce the amount of data or time needed to train a machine learning algorithm. Looking at common challenges in developing and deploying industrial machinery with deep learning functionalities, embracing this concept would offer several advantages: Using an intelligent Digital Twin, learning algorithms can be designed, configured and tested in the design phase before the physical system exists and real data can be collected. Once real data becomes available, the algorithms must merely be fine-tuned, significantly speeding up commissioning and reducing the probability of costly modifications. Furthermore, using the Digital Twin's simulation capabilities virtually injecting rare faults in order to train an algorithm's response or using reinforcement learning, e.g. to teach a robot, become practically feasible. This article presents several cross-phase industrial transfer learning use cases utilizing intelligent Digital Twins. A real cyber physical production system consisting of an automated welding machine and an automated guided vehicle equipped with a robot arm is used to illustrate the respective benefits.

研究动机与目标

• 解决在物理系统部署期间训练工业人工智能模型所需高数据量与长时间的问题。
• 克服工业机器学习应用中真实数据稀缺的局限，特别是针对罕见故障场景。
• 通过基于仿真的数字孪生，在物理系统存在之前实现人工智能模型的早期开发与测试。
• 通过复用设计阶段仿真中的知识，实现跨阶段迁移学习，加速真实世界部署。
• 证明在物理实现前，通过仿真训练复杂人工智能功能（如故障检测与机器人控制）的可行性。

提出的方法

• 以配备自动焊接机和带机械臂的自动引导车辆的网络物理生产系统作为实验平台。
• 在设计阶段开发一个能够模拟物理系统行为与运行条件的智能数字孪生。
• 在数字孪生环境中使用合成数据（包括注入的罕见故障）训练机器学习模型，以提升鲁棒性。
• 通过将预训练的仿真模型知识迁移至真实场景，应用迁移学习。
• 在物理系统调试后，利用有限的真实数据对预训练模型进行微调。
• 在仿真中利用强化学习训练机器人控制策略，再部署至物理硬件。

实验结果

研究问题

• RQ1 迁移学习在多大程度上可减少工业人工智能模型在物理部署期间的数据与时间需求？
• RQ2 在数字孪生环境中基于仿真的训练，能在多大程度上提升人工智能模型在罕见故障检测中的性能与鲁棒性？
• RQ3 使用智能数字孪生预训练并验证人工智能模型，其实际效益是什么？
• RQ4 迁移学习在实现从设计阶段仿真到运行阶段真实系统之间的跨阶段知识迁移方面有多高效？
• RQ5 能否在物理硬件部署前，通过数字孪生环境有效训练并验证用于机器人任务的强化学习策略？

主要发现

• 由智能数字孪生支持的迁移学习显著减少了工业人工智能模型在训练过程中对真实世界数据的需求。
• 在仿真中预训练模型使得在物理系统可用之前即可实现人工智能功能的早期验证与配置。
• 在仿真中注入罕见故障提升了故障预测模型的鲁棒性，而无需依赖大量真实故障数据。
• 在极少量真实数据上对预训练模型进行微调，加速了系统调试过程，并降低了昂贵返工的风险。
• 用于机器人任务的强化学习策略在数字孪生环境中成功训练并验证后，再部署至物理硬件。
• 将迁移学习与数字孪生相结合，实现了复杂人工智能应用（如重构规划与预测性维护）的实际部署。