[논문 리뷰] Neural Relational Inference with Fast Modular Meta-learning

Ferran Alet, Erica Weng외 2명|arXiv (Cornell University)|2023. 10. 10.

Domain Adaptation and Few-Shot Learning참고 문헌 19인용 수 25

한 줄 요약

논문은 neural relational inference를 모듈식 메타-learning으로 재구성하여 노드 모듈과 엣지 모듈의 라이브러리를 학습하고, 제안 지원 탐색(BounceGrad)을 사용해 관계 구조를 추론하며, unseen 또는 latent 노드에 대한 데이터 효율적이고 모델 기반의 추론 및 확장 가능한 계획을 달성한다.

ABSTRACT

extit{Graph neural networks} (GNNs) are effective models for many dynamical systems consisting of entities and relations. Although most GNN applications assume a single type of entity and relation, many situations involve multiple types of interactions. extit{Relational inference} is the problem of inferring these interactions and learning the dynamics from observational data. We frame relational inference as a extit{modular meta-learning} problem, where neural modules are trained to be composed in different ways to solve many tasks. This meta-learning framework allows us to implicitly encode time invariance and infer relations in context of one another rather than independently, which increases inference capacity. Framing inference as the inner-loop optimization of meta-learning leads to a model-based approach that is more data-efficient and capable of estimating the state of entities that we do not observe directly, but whose existence can be inferred from their effect on observed entities. To address the large search space of graph neural network compositions, we meta-learn a extit{proposal function} that speeds up the inner-loop simulated annealing search within the modular meta-learning algorithm, providing two orders of magnitude increase in the size of problems that can be addressed.

연구 동기 및 목표

• Observation에서 모듈식 메타러닝으로 다관계 시스템의 관계 구조 및 동역학을 추론한다.
• 다양한 상호 작용 유형을 모델링하기 위해 노드 및 엣지에 대한 신경 모듈 라이브러리를 학습한다.
• 모듈식 메타러닝으로 관계 추론을 모델 기반 접근 방식으로 다루어 데이터 효율성을 높이고 잠재/관찰되지 않은 엔터티의 추론을 가능하게 한다.
• 학습된 제안 함수로 내부 루프의 구조 탐색을 가속화하여 더 큰 규모의 문제를 가능하게 한다.

제안 방법

• 관계 추론을 노드 모듈 m_i와 엣지 모듈 h_j로 구성된 모듈식 메타러닝으로 프레이밍한다.
• BounceGrad를 사용: 모듈식 구조 위에서의 시뮬레이티드 어닐링과 그래디언트 하강을 번갈아 수행하여 모듈 가중치를 최적화한다.
• 다수의 작업에서 모듈 가중치를 학습하는 메타-트레인을 통해 학습하고, 새 작업에 대해 최적의 구조 S를 추론하는 메타-테스트를 수행한다.
• 내부 루프 구조 탐색을 가속화하기 위해 제안 함수를 메타-학습하며, 학습 배치에서 SA의 결과를 사용해 훈련한다.
• 다수의 작업으로 초그래프를 만들어 배치 학습을 수행하고, 병렬성과 일정한 매개변수 비용을 유지한다.
• 내부 루프에서 잠재 상태를 최적화해 보지 않은 엔터티를 예측하기 위해 모델 기반 추론을 활용한다.

Figure 1: Modular meta-learning with graph networks; adapted from Alet et al. ( 2018 ) . The system meta-learns a library of node and edge modules, represented as small neural networks; at performance (meta-test) time, it is only necessary to infer the combination of modules that best predict the ob

실험 결과

연구 질문

• RQ1 모듈식 메타러닝과 신경 모듈 라이브러리가 궤도 데이터에서 관계 구조를 추정하는 variational NRI를 능가하거나 따라잡을 수 있는가?
• RQ2 엣지 타입의 구조 수준 최적화가 관계 추론을 독립적인 엣지 예측에 비해 향상시키는가?
• RQ3 학습된 제안 함수가 내부 루프 검색을 크게 가속화해 더 큰 작업 분포와 모듈식 구성을 확장할 수 있는가?
• RQ4 내부 루프 최적화에 잠재/관찰되지 않은 엔터티를 통합해 추론이 가능한가?

주요 결과

• 모듈식 메타러닝은 함께 추론된 엣지 모듈과 함께 Springs 및 Charged-particles 데이터셋에서 벤치마크 대비 동등하거나 우수한 궤적 예측 성능을 달성한다.
• 엣지 타입 예측 정확도가 거의 골드 수준에 도달하며, 모듈식 메타러닝이 두 도메인에서 이전 방법과 일치하거나 이를 능가한다.
• 모델 기반 접근 방식은 특히 저데이터 환경에서 변분 방법보다 데이터 효율성이 높다.
• 학습된 제안 함수가 내부 루프 탐색을 수 차례의 순서로 가속화해 더 큰 모듈 공간과 메타-데이터셋(최대 50,000개 작업)을 가능하게 한다.
• 프레임워크는 내부 루프에서 traj를 최적화해 잠재/관찰되지 않은 노드를 추론하는 것을 수용할 수 있어 예측 정확도를 향상시킨다.
• 작업 간 배치 처리와 초그래프에 매핑하는 방식은 학습과 평가 속도를 크게 향상시킨다.

Figure 2: Task setup, taken from Kipf et al. ( 2018 ) : we want to predict the evolution of a dynamical system by inferring the set of relations between the entities, such as attraction and repulsion between charged particles.