[논문 리뷰] Learning A Physical Long-term Predictor

Sébastien Ehrhardt, Áron Monszpart외 2명|arXiv (Cornell University)|2017. 03. 01.

Evolutionary Algorithms and Applications참고 문헌 22인용 수 38

한 줄 요약

이 논문은 시각 입력에서 장기적인 기계 운동을 예측하기 위해 명시적인 물리 시뮬레이터에 의존하지 않고, 단일 순환 신경망인 MechaNet을 제안한다. 물리 법칙의 내부 표현을 학습하고 예측 분포를 통해 불확실성을 모델링함으로써, 물리적 매개변수를 관측하지 못한 경우 진짜 물리 법칙을 갖춘 시뮬레이터를 능가하지만, 훈련 범위를 초월한 일반화 능력은 여전히 제한되어 있다.

ABSTRACT

Evolution has resulted in highly developed abilities in many natural intelligences to quickly and accurately predict mechanical phenomena. Humans have successfully developed laws of physics to abstract and model such mechanical phenomena. In the context of artificial intelligence, a recent line of work has focused on estimating physical parameters based on sensory data and use them in physical simulators to make long-term predictions. In contrast, we investigate the effectiveness of a single neural network for end-to-end long-term prediction of mechanical phenomena. Based on extensive evaluation, we demonstrate that such networks can outperform alternate approaches having even access to ground-truth physical simulators, especially when some physical parameters are unobserved or not known a-priori. Further, our network outputs a distribution of outcomes to capture the inherent uncertainty in the data. Our approach demonstrates for the first time the possibility of making actionable long-term predictions from sensor data without requiring to explicitly model the underlying physical laws.

연구 동기 및 목표

• 명시적인 물리 시뮬레이터에 의존하지 않고 단일 딥 신경망이 정확한 장기 기계 예측을 수행할 수 있는지 조사하기 위해.
• 신경망이 시각 데이터에서 물리 법칙을 암묵적으로 학습하고 다양한 물리적 범위에 걸쳐 일반화할 수 있는지 평가하기 위해.
• 장기 운동 예측에서 예측 불확실성 모델링의 효과성을 평가하기 위해.
• 신경망을 통해 매개변수 추정을 수행한 후 외부 시뮬레이터를 사용하는 파ipeline 방법과 끝에서 끝까지 학습하는 방법을 비교하기 위해.
• 표준 물리 법칙에 비해 학습된 물리적 표현의 일반화 한계를 규명하기 위해.

제안 방법

• 입력 영상 프레임에서 직접 궤적을 예측하도록 훈련된 순환 신경망(RNN) 아키텍처를 사용하며, 중간 단계의 물리적 매개변수 추정을 생략한다.
• 합성 신경망이 초기 프레임의 공간적 특징을 추출하고, 이를 RNN이 시간에 따라 상태를 진화시키도록 처리한다.
• 미래 위치에 대한 분포를 출력하기 위해 가우시안 또는 확률 맵 모델을 사용하여 불확실성을 표현한다.
• 구조적 인덕티브 바이어스를 통해 부드러운 사전 조건을 도입—지역성과 공간적 동질성 구조—명시적 지도 없이도 물리 법칙을 모방한다.
• 변동하는 경사와 이질적인 마찰 계수를 가진 큐브가 경사면을 미끄러지는 시뮬레이션의 합성 데이터를 사용해 훈련한다.
• 일련의 점점 긴 영상 시퀀스를 대상으로 손실을 계산하여 일반화 능력을 평가한다.

실험 결과

연구 질문

• RQ1 외부 물리 시뮬레이터에 의존하지 않고 단일 딥 신경망이 정확한 장기 기계 예측을 수행할 수 있는가?
• RQ2 신경망이 시각 데이터만으로 물리 법칙을 얼마나 잘 암묵적으로 학습할 수 있는가?
• RQ3 학습 중에 볼 수 없었던 물리적 범위에 대해 학습된 표현이 얼마나 잘 일반화되는가?
• RQ4 예측 분포를 통해 불확실성을 모델링하면 장기 예측의 안정성이 얼마나 향상되는가?
• RQ5 신경망을 통해 매개변수 추정을 수행한 후 외부 시뮬레이터를 사용하는 파이프라인 방법과 끝에서 끝까지 학습하는 방법의 성능 차이는 어떻게 되는가?

주요 결과

• 마찰 계수나 기울기 경사와 같은 물리적 매개변수가 관측되지 않거나 사전에 알려지지 않은 경우, MechaNet은 진짜 물리 법칙을 갖춘 시뮬레이터를 능가한다.
• 변동하는 마찰 계수를 가진 상황(S2)에서 MechaNet4는 관측 불가능한 매개변수로 인해 실패하는 SimNet에 비해 뚜렷이 뛰어난 성능을 보였다.
• 더 긴 시퀀스로 훈련할수록 장기 예측 정확도가 향상되었으며, 전체 시퀀스로 훈련된 MechaNet4는 SimNet 대비 약 20% 높은 성능을 기록했다.
• 확률 맵 모델을 사용한 불확실성 모델링(MechaNet4)은 가우시안 모델(MechaNet3)보다 낮은 퍼플렉서티를 기록하여 더 나은 불확실성 캘리브레이션을 보였다.
• 모든 네트워크가 훈련 범위를 초월해 일반화하는 데에 뚜렷한 실패를 보였으며, 학습된 표현이 표준 물리 법칙만큼 일반적이지 않음을 시사한다.
• 불확실성 모델링을 하더라도 네트워크의 예측 불확실성은 시간이 지남에 따라 적절히 증가하여 점점 커지는 예측 모호성을 반영한다.