[논문 리뷰] Permutation-equivariant neural networks applied to dynamics prediction

Nicholas Guttenberg, Nathaniel Virgo외 3명|arXiv (Cornell University)|2016. 12. 14.

Neural Networks and Applications인용 수 48

한 줄 요약

이 논문은 모든 객체 간 쌍별 조합에 대해 공유되고 학습 가능한 함수를 적용한 후 최댓값 풀링을 통해 순열에 대해 불변성을 확보함으로써 상호작용하는 입자의 역학을 모델링하는 순열에 대해 불변인 신경망 아키텍처를 제안한다. 이 방법은 2차원 딱딱한 원판의 궤적 예측에서 높은 정확도를 달성하며, 크기가 다른 물체가 존재하는 경우조차도 보조 객체 레이블을 통합함으로써 훈련 과정에서 볼 수 없었던 입자 수에 대해 일반화된다.

ABSTRACT

The introduction of convolutional layers greatly advanced the performance of neural networks on image tasks due to innately capturing a way of encoding and learning translation-invariant operations, matching one of the underlying symmetries of the image domain. In comparison, there are a number of problems in which there are a number of different inputs which are all 'of the same type' --- multiple particles, multiple agents, multiple stock prices, etc. The corresponding symmetry to this is permutation symmetry, in that the algorithm should not depend on the specific ordering of the input data. We discuss a permutation-invariant neural network layer in analogy to convolutional layers, and show the ability of this architecture to learn to predict the motion of a variable number of interacting hard discs in 2D. In the same way that convolutional layers can generalize to different image sizes, the permutation layer we describe generalizes to different numbers of objects.

연구 동기 및 목표

• 입자 수가 변할 수 있는 경우에도 일반화가 가능한, 입력 객체의 순열에 대해 불변인 신경망 아키텍처를 개발하는 것.
• 표준 신경망이 대칭 시스템을 학습하는 데 비효율적인 문제를 해결하기 위해 순열 불변성을 네트워크 구조에 직접 통합하는 것.
• 입자 간 충돌이 일어나는 2차원 딱딱한 원판 시스템과 같은 복잡한 상호작용 입자 역학을 캐논리컬 입력 순서가 필요 없이 정확하게 예측할 수 있도록 하는 것.
• 예를 들어 무작위 또는 물리적 레이블과 같은 보조 기능이 순열 불변 프레임워크 내에서 비동일한 물체를 위한 모델링 능력을 복원하는 방법을 조사하는 것.

제안 방법

• 각 객체에 대해 자신의 특징과 다른 모든 객체의 특징에 대해 공유되고 학습 가능한 함수를 적용한 후 모든 쌍에 대해 합을 구하는 순열 레이어를 설계한다.
• 모든 객체 인덱스에 대해 최댓값 풀링을 사용하여 순열 불변성을 강제함으로써, 입력 순서의 변화에 따라 출력이 일관되게 변하도록 보장한다.
• 입자 간의 복잡한 비선형 상호작용 잠재력(포텐셜)을 모델링하기 위해 쌍별 상호작용 레이어 내부에 깊은 신경망을 통합한다.
• 비동일한 입자를 구분하기 위해 2차원 무작위 벡터 레이블을 도입함으로써 전체 아키텍처에서 순열 불변성을 유지한다.
• 다양한 수의 입자와 물체 유형을 가진 상호작용하는 딱딱한 원판의 궤적을 훈련 데이터로 사용하고, 손실 함수로 평균 제곱오차(MSE)를 적용한다.
• 새로운 입자 수와 이질적인 입자 크기를 가진 시스템에서의 일반화 성능을 평가하기 위해 테스트를 실시한다.

실험 결과

연구 질문

• RQ1 순열에 대해 불변인 신경망 아키텍처는 2차원에서 충돌하는 딱딱한 원판과 같은 상호작용 입자 시스템의 미래 역학을 정확하게 예측할 수 있는가?
• RQ2 제안된 아키텍처는 훈련 중에 볼 수 없었던 다른 입자 수에 대해 일반화되는가?
• RQ3 표준 순열 불변 네트워크가 실패하는 비동일한 입자(예: 다른 반지름)를 가진 시스템을 네트워크는 얼마나 잘 모델링할 수 있는가?
• RQ4 보조 객체 기능이 순열 불변성과 일반화 능력을 유지하면서도 비동일한 입자를 위한 모델링 능력을 복원할 수 있는가?

주요 결과

• 제안된 순열에 대해 불변인 아키텍처는 8개의 작은 원판과 4개의 큰 원판이 있는 시스템에서 평균 제곱오차(MSE) 0.022를 기록하여 동일한 원판의 경우와 유사한 성능을 달성한다.
• 보조 레이블이 없는 기본 네트워크는 이질적인 시스템에서 MSE 0.041을 기록하여 물체 유형을 구분할 수 없어 성능이著しく 떨어지는 것으로 나타났다.
• 2차원 무작위 보조 레이블을 도입함으로써 이질적인 시스템에서의 성능이 동종 시스템과 동일한 수준으로 향상되었으며, 이는 비순열 불변 정보를 효과적으로 복원했음을 보여준다.
• 학습 데이터에서 입자 수가 고정되어 있었음에도 불구하고 추론 과정에서 다른 수의 입자에 대해 일반화가 가능함을 확인하였다.
• 쌍별 상호작용 레이어 내부에 통합된 깊은 신경망을 통해 복잡한 비선형 상호작용 잠재력(포텐셜)을 효과적으로 모델링할 수 있었다.
• 보조 레이블에 잠재 특징(예: 반지름)이 포함되어 있다면 새로운 물체 유형에 대한 일반화가 가능하다는 점을 프레임워크가 가능하게 한다.