[논문 리뷰] Graph Element Networks: adaptive, structured computation and memory

Ferran Alet, Adarsh K. Jeewajee외 4명|arXiv (Cornell University)|2019. 04. 18.

Advanced Graph Neural Networks참고 문헌 63인용 수 22

한 줄 요약

이 논문은 사전에 정의된 실체가 필요로 하지 않고 연속 도메인 위에서 공간 함수를 모델링하기 위해 학습 가능한 가변 그래프 구조를 사용하는 그래프 엘리먼트 네트워크(GENs)를 소개한다. 공간 위치를 GNN의 노드로 간주하고 그들의 위치와 연결성을 최적화함으로써, GENs는 공간 크기와 해상도에 걸쳐 일반화되는 구조적이고 미분 가능한 계산을 가능하게 하며, PDE 해소, 로봇 역학, 그리고 새로운 시야 합성 등의 과제에서 최신 기술 수준의 성능을 달성한다. 이는 정확도-계산량의 타협 가능성을 유연하게 제공한다.

ABSTRACT

We explore the use of graph neural networks (GNNs) to model spatial processes in which there is no a priori graphical structure. Similar to finite element analysis, we assign nodes of a GNN to spatial locations and use a computational process defined on the graph to model the relationship between an initial function defined over a space and a resulting function in the same space. We use GNNs as a computational substrate, and show that the locations of the nodes in space as well as their connectivity can be optimized to focus on the most complex parts of the space. Moreover, this representational strategy allows the learned input-output relationship to generalize over the size of the underlying space and run the same model at different levels of precision, trading computation for accuracy. We demonstrate this method on a traditional PDE problem, a physical prediction problem from robotics, and learning to predict scene images from novel viewpoints.

연구 동기 및 목표

• 기존 GNN이 사전에 정의된 실체를 필요로 하는 한계를 해결하기 위해, 사전 구조적 가정 없이 공간 과정을 모델링하는 방법을 도입한다.
• 새로운 크기나 해상도에 맞게 다시 훈련할 필요 없이, 하나의 학습된 모델을 사용해 다양한 공간 척도와 해상도에 걸쳐 일반화할 수 있도록 한다.
• 노드 위치와 연결성을 적응적으로 조정하여 복잡한 공간 영역에 집중하는, 구조적이고 미분 가능한 계산 기반을 개발한다.
• PDE 해소, 로봇 밀기 역학 예측, 그리고 새로운 카메라 자세에서의 시야 생성과 같은 다양한 과제에서 방법의 효과성을 입증한다.

제안 방법

• 노드가 공간 위치에 대응하고 간선이 局부 연결성을 정의하는 학습 가능한 그래프로 연속적인 공간 도메인을 표현한다.
• 공유된 가중치를 가진 GNN을 사용해 메시지 전파를 반복적으로 수행함으로써, 입력 함수(예: 온도, 힘)를 출력 함수(예: 예측 상태)로 변환한다.
• 학습 중에 노드 위치와 그래프 연결성을 최적화하여 고공간 복잡도 영역에 계산 자원을 집중시킨다.
• 선형 가중치를 사용해 이웃 노드 상태의 보간을 통해 공간 내 임의의 쿼리 지점에서 잠재 노드 표현을 추론함으로써 연속적인 출력 예측을 가능하게 한다.
• 입력 데이터(예: 이미지, 자세)를 잠재 공간으로 매핑하고 다시 추출하기 위해 학습된 인코더와 디코더를 통합함으로써, 구조적 공간 과제에서 엔드 투 엔드 훈련을 가능하게 한다.
• 같은 모델 아키텍처를 다양한 크기나 다른 샘플링 방식을 가진 공간에 적용하기 위해 가중치를 재사용하고 그래프 구조를 조정함으로써 척도와 해상도에 대해 불변성을 확보한다.

실험 결과

연구 질문

• RQ1 재훈련 없이 다양한 공간 척도와 해상도에 걸쳐 일반화할 수 있는 GNN 기반 모델은 가능한가?
• RQ2 그래프 구조 자체를 공간 복잡도에 적응시켜 관심 영역의 정확도를 향상시킬 수 있는가?
• RQ3 사전에 정의된 실체나 고정 격자 없이도 GNN을 연속적인 공간 과정을 모델링하는 데 사용할 수 있는가?
• RQ4 기존 방법과 비교해 물리적 역학과 새로운 시야 합성 과제에서 모델의 성능은 어떠한가?
• RQ5 훈련 중에 관찰하지 못한 더 크거나 더 복잡한 공간 구성에서 모델의 성능를 유지할 수 있는가?

주요 결과

• GENs는 신규 시야 예측 과제에서 신경 프로세스(NPs)와 통계적으로 동등한 분류 정확도를 달성했지만, 훈련 에포크 수가 약 절반 수준이었다.
• GENs의 성능는 시나리오 크기(예: 점점 커지는 슈퍼메이즈)가 증가함에 따라 안정적으로 유지되었지만, NPs의 성능는 더 큰 메이즈에서 심각하게 떨어졌다.
• 재훈련이나 아키텍처 변경 없이도, 다양한 모양과 크기의 시나리오, 다중 메이즈로 구성된 슈퍼메이즈 등에도 효과적으로 일반화되었다.
• 노드 위치와 연결성의 적응 능력 덕분에 모델은 복잡한 공간 영역에 계산을 집중시켜 효율성과 정확도를 향상시켰다.
• PDE를 따르지 않는 동역학을 포함한 임의의 형상 물체를 포함한 물리 예측 과제에서도 강력한 일반화 성능를 보였다.
• GNN 메시지 전파 단계 수와 노드 밀도를 조절함으로써 계산량과 정확도 사이의 탄력적인 트레이드오프를 가능케 했다.