[논문 리뷰] Transfer Learning as an Enabler of the Intelligent Digital Twin

Benjamin Maschler, Dominik Braun외 2명|arXiv (Cornell University)|2020. 01. 01.

Digital Transformation in Industry참고 문헌 25인용 수 3

한 줄 요약

이 논문은 산업 시스템에서 인공지능 모델 개발 및 구현을 가속화하기 위해 지능형 디지털 트윈 내에서 전이학습을 활용하는 것을 제안한다. 물리적 구현 이전에 시뮬레이션에서 모델을 훈련하고 실제 데이터로 미세조정함으로써, 훈련 시간과 데이터 요구량을 줄여 사이버-물리적 생산 시스템에서 효율적인 고장 예측 및 강화학습을 가능하게 한다.

ABSTRACT

Digital Twins have been described as beneficial in many areas, such as virtual commissioning, fault prediction or reconfiguration planning. Equipping Digital Twins with artificial intelligence functionalities can greatly expand those beneficial applications or open up altogether new areas of application, among them cross-phase industrial transfer learning. In the context of machine learning, transfer learning represents a set of approaches that enhance learning new tasks based upon previously acquired knowledge. Here, knowledge is transferred from one lifecycle phase to another in order to reduce the amount of data or time needed to train a machine learning algorithm. Looking at common challenges in developing and deploying industrial machinery with deep learning functionalities, embracing this concept would offer several advantages: Using an intelligent Digital Twin, learning algorithms can be designed, configured and tested in the design phase before the physical system exists and real data can be collected. Once real data becomes available, the algorithms must merely be fine-tuned, significantly speeding up commissioning and reducing the probability of costly modifications. Furthermore, using the Digital Twin's simulation capabilities virtually injecting rare faults in order to train an algorithm's response or using reinforcement learning, e.g. to teach a robot, become practically feasible. This article presents several cross-phase industrial transfer learning use cases utilizing intelligent Digital Twins. A real cyber physical production system consisting of an automated welding machine and an automated guided vehicle equipped with a robot arm is used to illustrate the respective benefits.

연구 동기 및 목표

• 물리적 시스템 구현 시 산업용 인공지능 모델 훈련을 위한 높은 데이터 및 시간 요구량에 대응한다.
• 특히 드문 고장 시나리오에 대해 실세계 데이터 부족 문제를 해결한다.
• 물리적 시스템이 존재하기 이전에 시뮬레이션 기반 디지털 트윈을 활용해 인공지능 모델의 조기 개발 및 테스트를 가능하게 한다.
• 설계 단계의 시뮬레이션에서 유래한 지식을 재사용하여 설계 단계에서 운영 단계로의 지식 전이를 촉진한다.
• 고장 탐지 및 로봇 제어와 같은 복잡한 인공지능 기능을 물리적 구현 이전에 시뮬레이션을 통해 훈련시키는 것이 가능함을 입증한다.

제안 방법

• 자동 용접 기계와 로봇 암을 장착한 자동 이송 차량을 테스트 베드로 사용하는 사이버-물리적 생산 시스템을 활용한다.
• 설계 단계에서 물리적 시스템의 동작 및 운영 조건을 시뮬레이션하는 지능형 디지털 트윈을 개발한다.
• 합성 데이터(희귀 고장을 포함한)를 사용하여 디지털 트윈 환경에서 기계학습 모델을 훈련시킨다.
• 사전 훈련된 시뮬레이션 기반 모델에서 유래한 지식을 실제 시나리오로 전이함으로써 전이학습을 적용한다.
• 물리적 시스템 설치 후 수집된 제한된 실제 데이터를 사용하여 사전 훈련된 모델을 미세조정한다.
• 실제 하드웨어에 구현하기 전에 시뮬레이션에서 강화학습을 활용해 로봇 제어 정책을 훈련시킨다.

실험 결과

연구 질문

• RQ1 전이학습은 물리적 시스템 구현 시 산업용 인공지능 모델 훈련을 위한 데이터 및 시간 요구량을 어떻게 줄일 수 있는가?
• RQ2 디지털 트윈 환경에서의 시뮬레이션 기반 훈련은 희귀 고장 탐지에 대한 인공지능 모델의 성능과 강건성에 얼마나 기여하는가?
• RQ3 물리적 구현 이전에 사전 훈련 및 검증을 위해 지능형 디지털 트윈을 사용하는 데 실질적인 이점은 무엇인가?
• RQ4 설계 단계의 시뮬레이션에서 유래한 지식을 운영 단계의 실제 시스템에 전이하는 데 있어 전이학습의 효과는 어떠한가?
• RQ5 로봇 작업을 위한 강화학습은 물리적 하드웨어에 구현하기 전에 디지털 트윈 환경에서 효과적으로 훈련 및 검증될 수 있는가?

주요 결과

• 지능형 디지털 트윈을 통한 전이학습은 산업용 인공지능 모델 훈련을 위한 실제 데이터 요구량을 크게 줄였다.
• 시뮬레이션에서 사전 훈련한 모델 덕분에 물리적 시스템 가용성 이전에 인공지능 기능의 조기 검증 및 설정이 가능했다.
• 시뮬레이션에서 희귀 고장을 주입함으로써 실제 고장 데이터가 많지 않아도 고장 예측 모델의 강건성이 향상되었다.
• 최소한의 실제 데이터로 사전 훈련된 모델를 미세조정함으로써 시스템 구동 준비 과정이 가속화되었고, 비용이 많이 드는 재작업의 위험도 감소했다.
• 로봇 작업을 위한 강화학습 정책은 물리적 하드웨어에 구현하기 전에 디지털 트윈 환경에서 성공적으로 훈련 및 검증되었다.
• 전이학습과 디지털 트윈의 통합을 통해 재구성 계획 수립 및 예측 유지보수와 같은 복잡한 인공지능 응용의 실용적 구현이 가능해졌다.