[논문 리뷰] Roto-translated Local Coordinate Frames For Interacting Dynamical Systems

Miltiadis Kofinas, Naveen Shankar Nagaraja외 1명|arXiv (Cornell University)|2021. 10. 28.

Data Visualization and Analytics인용 수 6

한 줄 요약

이 논문은 상호작용하는 동적 시스템을 위한 기하학적 그래프 신경망에서 회전-이동 불변성을 확보하기 위해 로토-트랜슬레이티드 로컬 좌표 프레임(LoCS)을 제안한다. 각 노드 중심에 로컬 프레임를 설정하고 물체의 방향성과 일치시킴으로써, 불변 엣지 예측과 등변 궤적 예측이 가능해지며, 교통 환경, 3D 운동 캡처, 입자 충돌 데이터셋에서 최신 기술 수준의 성능을 달성한다.

ABSTRACT

Modelling interactions is critical in learning complex dynamical systems, namely systems of interacting objects with highly non-linear and time-dependent behaviour. A large class of such systems can be formalized as $\ extit{geometric graphs}$, $\ extit{i.e.}$, graphs with nodes positioned in the Euclidean space given an $\ extit{arbitrarily}$ chosen global coordinate system, for instance vehicles in a traffic scene. Notwithstanding the arbitrary global coordinate system, the governing dynamics of the respective dynamical systems are invariant to rotations and translations, also known as $\ extit{Galilean invariance}$. As ignoring these invariances leads to worse generalization, in this work we propose local coordinate frames per node-object to induce roto-translation invariance to the geometric graph of the interacting dynamical system. Further, the local coordinate frames allow for a natural definition of anisotropic filtering in graph neural networks. Experiments in traffic scenes, 3D motion capture, and colliding particles demonstrate that the proposed approach comfortably outperforms the recent state-of-the-art.

연구 동기 및 목표

• 임의의 전역 좌표계에 의존함으로써 발생하는 그래프 신경망의 낮은 일반화 성능 문제를 해결한다.
• 갈릴레오 불변성—특히 회전-이동 대칭성—을 활용하여 샘플 효율성과 모델의 강건성을 향상시킨다.
• 로컬로 정렬된 물체 기반 좌표 프레임에서의 상대 위치 정의를 통해 그래프 네트워크에서 천연적인 이방성 필터링을 가능하게 한다.
• 엣지 예측에서의 회전-이동 불변성과 궤적 예측에서의 회전-이동 등변성 보장을 보장하는 프레임워크를 개발한다.
• 보행자 운동, 3D 인간 운동, 입자 충돌을 포함한 다양한 동적 시스템 벤치마크에서 뛰어난 성능을 입증한다.

제안 방법

• 각 노드에 중심을 두고 물체의 요, 피치, 롤 방향과 일치하도록 기울인 로컬 좌표 프레임를 정의한다.
• 모든 기하학적 특징과 메시지 전달 연산을 로컬 프레임로 변환하여 회전-이동 불변성을 강제한다.
• 최종 출력에 대해 역회전을 적용하여 전역 좌표 일관성을 복원함으로써 전역 변환에 대한 등변성을 확보한다.
• 로컬 프레임 내의 상대 선형 및 각도 위치를 기반으로 한 이방성 연속 필터를 도입하여 방향성 의존성을 모델링한다.
• 로컬 프레임 구축을 위한 미분 가능 공식화를 제공하며, 외부 라이브러리에 의존하지 않도록 커스텀 구현된 행렬에서 유클리드 각도(자이로-자이로-자이로 순서) 변환 기능을 포함한다.
• 그래프 기반 아키텍처를 통합한 메시지 전달 레이어에 로컬 프레임를 통합한 변동형 오토인코더 프레임워크를 사용해 모델을 훈련한다.

실험 결과

연구 질문

• RQ1 기하학적 그래프 신경망에서의 회전-이동 불변성 강제화가 상호작용하는 동적 시스템의 일반화 성능 향상에 기여하는가?
• RQ2 각 물체 중심에 위치한 로컬 좌표 프레임 사용이 엣지 예측 및 궤적 예측 성능에 어떤 영향을 미치는가?
• RQ3 상대적인 로컬 위치 기반의 이방성 필터링이 등방성 또는 전역 방법 대비 모델 성능 향상에 얼마나 기여하는가?
• RQ4 예를 들어 전하를 띤 입자처럼 내재된 물체 방향성이 없는 시나리오에서는 어떻게 성능가 나타나는가?
• RQ5 다양한 동적 시스템 벤치마크에서 최신 기술 수준의 모델인 dNRI, NRI, EGNN, GRU와 비교해 제안된 로컬 프레임 접근법이 우월한가?

주요 결과

• 제안된 LoCS 방법은 InD 보행자 운동 예측 벤치마크에서 dNRI, NRI, EGNN, GRU를 모두 앞서며 L2 및 MSE 오차 지표에서 최신 기술 수준의 성능을 달성한다.
• 3D 인간 운동 캡처 데이터셋(주제 #35)에서 LoCS는 dNRI, NRI, EGNN 대비 위치 및 속도 오차를 크게 감소시켰으며, 모든 타임스텝에서 더 낮은 MSE를 기록한다.
• 높은 상호작용성을 보이는 전하 입자 벤치마크에서 LoCS는 총 오차가 가장 낮게 기록되어 방향성이 없는 시스템에서도 뛰어난 강건성을 입증한다.
• 절단 실험 결과, 등방성 또는 필터링이 없는 변형 대비 이방성 필터링을 통합할 경우 성능 향상이 나타나며, 특히 복잡하고 동적인 시나리오에서 가장 큰 성과를 기록한다.
• 로컬 프레임에서 회전을 제거하고 오직 이동만 사용할 경우 성능 저하가 심각하게 발생함으로써, 회전 정렬의 중요성을 확인한다.
• 훈련 중 속도 정규화를 적용해도 제안된 LoCS 방법에 비해 성능 향상이 없었으며, 이는 데이터 의존적 전처리 없이도 더 뛰어난 성능을 달성함을 시사한다.