[논문 리뷰] Interaction Networks for Learning about Objects, Relations and Physics

Peter Battaglia, Razvan Pascanu외 3명|arXiv (Cornell University)|2016. 12. 01.

Topic Modeling참고 문헌 26인용 수 576

한 줄 요약

논문은 그래프 구조 신경망 모델인 상호작용 네트워크를 도입한다. 이는 객체와 그 관계를 분리하여 추론하고 다양 한 물리 도메인에서 동역학을 예측하며 에너지 같은 추상적 속성을 추론한다.

ABSTRACT

Reasoning about objects, relations, and physics is central to human intelligence, and a key goal of artificial intelligence. Here we introduce the interaction network, a model which can reason about how objects in complex systems interact, supporting dynamical predictions, as well as inferences about the abstract properties of the system. Our model takes graphs as input, performs object- and relation-centric reasoning in a way that is analogous to a simulation, and is implemented using deep neural networks. We evaluate its ability to reason about several challenging physical domains: n-body problems, rigid-body collision, and non-rigid dynamics. Our results show it can be trained to accurately simulate the physical trajectories of dozens of objects over thousands of time steps, estimate abstract quantities such as energy, and generalize automatically to systems with different numbers and configurations of objects and relations. Our interaction network implementation is the first general-purpose, learnable physics engine, and a powerful general framework for reasoning about object and relations in a wide variety of complex real-world domains.

연구 동기 및 목표

• 복잡한 물리 시스템에서 객체와 관계에 대한 추론을 동기화하고 형식화한다.
• 객체 중심 추론과 관계 중심 추론을 분리하는 일반적이고 학습 가능한 엔진을 개발한다.
• 다중 단계 궤적 예측과 추상 속성 추론의 정확성을 입증한다.
• 다양한 객체 수와 구성의 시스템으로 일반화가 가능함을 보인다.

제안 방법

• 시스템을 객체를 노드로, 관계를 모서리로 하는 속성화된 방향성 다중그래프로 표현한다.
• 관계 모델 f_R을 사용하여 각 관계에 대한 상호작용 효과 e_k를 계산한다.
• 수신 객체별로 상호작용 효과를 집계하고 객체 상태 및 외부 효과와 함께 객체 모델 f_O에 입력하여 다음 상태를 예측한다.
• gradient 기반 최적화를 통해 모든 관계와 객체에서 공유되는 f_R과 f_O를 학습한다.
• 선택적으로 전역 속성(예: 포텐셜 에너지)을 예측하는 추상화 모듈 phi_A를 추가한다.
• 가변 크기의 그래프에서 교환가능성/결합성을 보장하는 마샬링 함수 m과 집계 a를 갖춘 MLP를 사용하여 구현한다.

실험 결과

연구 질문

• RQ1 객체 및 관계 중심의 신경망 모델이 복잡한 물리 시스템에서 미래 상태를 예측하는 학습이 가능한가?
• RQ2 모델이 다른 수의 객체와 관계 구성으로 이루어진 시스템에 일반화될 수 있는 정도는 얼마나 되는가?
• RQ3 학습된 동역학으로부터 포텐셜 에너지와 같은 추상적 시스템 속성을 추론할 수 있는가?
• RQ4 관계-객체 중심 추론을 분리하는 것이 기본 모델 대비 정확도와 일반화를 개선하는가?
• RQ5 이 접근법이 다수의 물리 도 domains(예: n-체, 강체 충돌, 비강체 다이나믹스)에 대해 확장 가능한가?

주요 결과

• 모델은 모든 도메인에서 이웃 한 단계의 속도 예측에서 MSE가 기준선보다 훨씬 낮게 나타난다.
• 상호작용 네트워크는 학습 시 본 시스템보다 적은 수의 객체 또는 더 많은 객체가 있는 시스템으로 일반화하며, 종종 작은 시스템에서 학습된 모델보다 우수한 성능을 보인다.
• IN에 의해 생성된 롤아웃은 수천 단계에 걸쳐 지표상으로도 실제 물리와 유사한 모습으로, 장거리 동역학의 일관성을 보여준다.
• 추상 속성 추정기(포텐셜 에너지)로 IN을 사용하는 경우 MLP 기준선보다 현저히 우수한 성능을 보인다(예: n-체와 문자열 도메인).
• 상호작용 효과의 정규화는 일반화와 긴 롤아웃에서의 드리프트를 감소시키는 데 도움을 준다.