[논문 리뷰] HybridNet: Integrating Model-based and Data-driven Learning to Predict Evolution of Dynamical Systems

Yun Long, Xueyuan She외 1명|arXiv (Cornell University)|2018. 06. 19.

Neural Networks and Applications참고 문헌 21인용 수 25

한 줄 요약

HybridNet는 외부 교란을 예측하는 데이터 기반 ConvLSTM과 연속된 PDE를 해결하는 모델 기반 세포 신경망(CeNN)을 융합하는 하이브리드 프레임워크를 제안한다. 이로 인해 열 대류-확산 및 유체역학 시스템에서 순수 데이터 기반 방법에 비해 예측 정확도가 크게 향상되고 실시간 물리적 파라미터 학습이 가능해진다.

ABSTRACT

The robotic systems continuously interact with complex dynamical systems in the physical world. Reliable predictions of spatiotemporal evolution of these dynamical systems, with limited knowledge of system dynamics, are crucial for autonomous operation. In this paper, we present HybridNet, a framework that integrates data-driven deep learning and model-driven computation to reliably predict spatiotemporal evolution of a dynamical systems even with in-exact knowledge of their parameters. A data-driven deep neural network (DNN) with Convolutional LSTM (ConvLSTM) as the backbone is employed to predict the time-varying evolution of the external forces/perturbations. On the other hand, the model-driven computation is performed using Cellular Neural Network (CeNN), a neuro-inspired algorithm to model dynamical systems defined by coupled partial differential equations (PDEs). CeNN converts the intricate numerical computation into a series of convolution operations, enabling a trainable PDE solver. With a feedback control loop, HybridNet can learn the physical parameters governing the system's dynamics in real-time, and accordingly adapt the computation models to enhance prediction accuracy for time-evolving dynamical systems. The experimental results on two dynamical systems, namely, heat convection-diffusion system, and fluid dynamical system, demonstrate that the HybridNet produces higher accuracy than the state-of-the-art deep learning based approach.

연구 동기 및 목표

• 물리적 파라미터 및 외부 힘에 대한 지식이 불완전하거나 정확하지 않은 역학 시스템의 시공간적 진화를 예측하는 데 도전하는 것.
• 데이터 기반 학습과 물리 기반 모델링을 융합하여 복잡하고 시간에 따라 변화하는 시스템에서 강력하고 실시간 예측을 가능하게 하는 프레임워크를 개발하는 것.
• 시스템 운영 중에 알 수 없는 물리적 파라미터(예: 밀도, 확산 계수)의 실시간 학습과 적응을 가능하게 하는 것.
• 비선형 역학 시스템에서 순수 데이터 기반 딥러닝 접근법에 비해 예측 정확도와 계산 효율성을 향상시키는 것.
• 효율적이고 하드웨어 최적화된 추론을 통해 모바일 및 로봇 플랫폼에 실시간 배포를 지원하는 것.

제안 방법

• 이동하는 열원이나 장애물과 같은 외부 교란의 시공간 패턴을 모델링하고 예측하기 위해 3D 텐서 연산을 사용하는 ConvLSTM를 사용한다.
• PDE 수치 계산을 반복적 컨볼루션 연산으로 변환함으로써 PDE 해법기로 사용 가능한 세포 신경망(CeNN)을 구현한다.
• 피드백 제어 루프를 통해 ConvLSTM와 CeNN를 통합하여 실시간 파라미터 학습과 모델 적응을 가능하게 한다.
• CeNN 해법기의 역전파를 활용하여 점도나 재료 밀도와 같은 알 수 없는 물리적 파라미터를 명시적 기울기 계산 없이 학습한다.
• TensorFlow와 같은 최적화된 딥러닝 프레임워크를 활용하여 CeNN 추론을 가속화하고 GPU 및 임베디드 가속기에서의 배포를 가능하게 한다.
• ConvLSTM와 CeNN를 위한 전용 ASIC를 활용하여 실시간 로봇 응용을 위한 10배 이상의 속도 향상과 1W 미만의 전력 소비를 달성한다.

실험 결과

연구 질문

• RQ1 데이터 기반 및 모델 기반 구성 요소를 융합한 하이브리드 학습 프레임워크가 불확실한 파라미터를 가진 역학 시스템에서 예측 정확도를 향상시킬 수 있는가?
• RQ2 학습 가능한 PDE 해법기(CeNN)가 시스템 진화 도중 실시간으로 알 수 없는 물리적 파라미터를 얼마나 효과적으로 학습할 수 있는가?
• RQ3 ConvLSTM와 CeNN의 통합이 복잡하고 비선형적인 역학 시스템을 예측하는 데 있어 순수 데이터 기반 딥러닝 모델에 비해 어느 정도 뛰어난 성능을 보이는가?
• RQ4 유체 밀도와 같은 시스템 파라미터의 급격하거나 점진적인 변화에 프레임워크가 최소한의 추론 지연으로 적응할 수 있는가?
• RQ5 임베디드 플랫폼에서 로봇 응용을 위한 HybridNet의 계산 효율성과 실시간 구현 가능성은 어떠한가?

주요 결과

• PSNR 및 손실 지표로 측정한 결과, HybridNet는 열 대류-확산 및 나비에-스토크스 유체 시스템 모두에서 순수 데이터 기반 ConvLSTM 모델보다 유의미하게 높은 예측 정확도를 달성한다.
• CeNN 기반 PDE 해법기는 유체 밀도와 같은 알 수 없는 물리적 파라미터의 실시간 학습을 가능하게 하며, 급격한 변화 이후 GPU에서 몇 초 내에 수렴한다.
• 유체 혼합물 전이와 같은 점진적 파라미터 변화의 경우, CeNN 모델은 진짜 물리적 계수를 밀도 있게 추적하며 적응 학습 능력을 입증한다.
• GPU에서 열 시스템의 경우 50ms 단위 시간 스텝당 0.33초, 유체 시스템의 경우 100ms 단위 시간 스텝당 3.03초가 소요되며, 전용 ASIC를 사용하면 10배의 속도 향상이 가능하다.
• ASIC 가속을 통해 총 추론 시간은 열 시스템에서 5.9ms, 유체 시스템에서 41.2ms로 감소하여 전력 제약이 있는 로봇 플랫폼에서의 실시간 배포가 가능해진다.
• 프레임워크는 작은 장애물 이동 변화로 인한 소용리 형성과 같은 복잡한 비선형 역학을 성공적으로 포착하였으며, 이는 ConvLSTM 전용 모델이 예측하지 못한 현상이다.