[논문 리뷰] Factor Graph Neural Networks

Zhen Zhang, Dupty, Mohammed Haroon외 3명|arXiv (Cornell University)|2023. 08. 02.

Advanced Graph Neural Networks인용 수 18

한 줄 요약

논문은 고차 팩터 그래프에서 저랭크 Sum-Product 루프형 믿음 전파를 신경화하여 End-to-End 학습이 가능하고, 하나의 아키텍처 내에서 Sum-Product와 Max-Product 추론을 모두 표현할 수 있는 Factor Graph Neural Networks (FGNNs)를 제시한다.

ABSTRACT

In recent years, we have witnessed a surge of Graph Neural Networks (GNNs), most of which can learn powerful representations in an end-to-end fashion with great success in many real-world applications. They have resemblance to Probabilistic Graphical Models (PGMs), but break free from some limitations of PGMs. By aiming to provide expressive methods for representation learning instead of computing marginals or most likely configurations, GNNs provide flexibility in the choice of information flowing rules while maintaining good performance. Despite their success and inspirations, they lack efficient ways to represent and learn higher-order relations among variables/nodes. More expressive higher-order GNNs which operate on k-tuples of nodes need increased computational resources in order to process higher-order tensors. We propose Factor Graph Neural Networks (FGNNs) to effectively capture higher-order relations for inference and learning. To do so, we first derive an efficient approximate Sum-Product loopy belief propagation inference algorithm for discrete higher-order PGMs. We then neuralize the novel message passing scheme into a Factor Graph Neural Network (FGNN) module by allowing richer representations of the message update rules; this facilitates both efficient inference and powerful end-to-end learning. We further show that with a suitable choice of message aggregation operators, our FGNN is also able to represent Max-Product belief propagation, providing a single family of architecture that can represent both Max and Sum-Product loopy belief propagation. Our extensive experimental evaluation on synthetic as well as real datasets demonstrates the potential of the proposed model.

연구 동기 및 목표

• Pairwise GNN을 넘어서는 고차 의존성으로의 학습 동기를 제시하고 더 풍부한 표현을 위한 Factor graph 구조를 활용한다.
• 저랭크 텐서 분해를 사용하여 이산 고차 PGM의 효율적인 근사 추론 알고리즘을 도출한다.
• 추론 과정을 신경화하여 End-to-End로 학습 가능한 FGNN 아키텍처를 만든다.
• 적절한 집계기를 사용하여 FGNN이 Sum-Product와 Max-Product 믿음 전파를 모두 표현할 수 있음을 보인다.
• 합성 PGM 추론, LDPC 복호화, 그래프 매칭, 글자 인식, 인간 동작, 분자 특성 예측과 같은 실제 태스크에서 FGNN의 실용적 효과를 입증한다.

제안 방법

• 저랭크 CP 텐서 분해를 사용하여 고차 팩터를 표현하고 메시지 업데이트의 효율성을 확보한다.
• 메시지를 잠재 벡터로 해석하고 단순 곱 이외의 유연한 집계기를 허용하여 루프형 믿음 전파를 신경망으로 펼친다.
• 변수-팩터 및 팩터-변수 모듈을 사용하여 팩터 그래프를 가로지르는 정보를 확산시키는 FGNN 레이어를 형성한다.
• 수학적 곱(Hadamard 곱)을 대체하기 위해 안정성과 표현력을 높이는 집계 함수(MLP 기반 셋 함수 포함)를 허용한다.
• 적절한 집계기를 선택함으로써 Sum-Product와 Max-Product 사이를 전환할 이론적 능력을 시연한다.

실험 결과

연구 질문

• RQ1 FGNN이 저랭크 텐서 분해를 사용한 이산 고차 팩터 그래프에서 효율적으로 추론을 수행할 수 있는가?
• RQ2 FGNN이 하나의 아키텍처 내에서 Sum-Product와 Max-Product 믿음 전파를 통합할 수 있는가?
• RQ3 고차 LBP를 신경화하면 고차 의존성의 혜택을 받는 태스크에서 엔드-투-엔드 학습 및 일반화가 향상되는가?
• RQ4 FGNN이 합성 데이터와 실제 데이터에서 전통적 그래픽 모델 추론, 일반 GNN, 그리고 k차 GNN 대비 어떤 성능을 보이는가?
• RQ5 FGNN이 큰 분자 데이터셋과 그래프 매칭, 인간 동작 예측과 같은 복잡한 구조적 태스크에 확장 가능한가?

주요 결과

• FGNN은 팩터 당 변수 수에 선형 복잡도인 이중 연산 메시지 업데이트를 제공합니다.
• 적합한 집계기를 선택함으로써 FGNN 내에서 Sum-Product와 Max-Product를 통합하는 Max-Product 믿음 전파를 표현할 수 있습니다.
• 실험에서 FGNN은 특정 잡음 조건에서 표준 LDPC 복호화보다 우수하고 그래프 매칭에서 그래픽 모델 추론 및 표준 GNN을 능가합니다.
• FGNN은 인간 동작 예측에서 최첨단 성능을 달성하고 QM9 및 Alchemy 분자 데이터셋에서 다른 k-order GNN보다 상당히 우수합니다.
• 아키텍처는 고차 의존성 및 유연한 그래프 구성을 위한 동적 타입 또는 조건부 팩터를 지원합니다.
• 경험적 차등 실험은 고차 팩터에 대한 저랭크 가정의 실용적 유용성을 뒷받침합니다.