[논문 리뷰] Graph Neural Networks Meet Neural-Symbolic Computing: A Survey and Perspective

Luís C. Lamb, Artur d’Avila Garcez외 4명|arXiv (Cornell University)|2020. 02. 29.

Advanced Graph Neural Networks참고 문헌 52인용 수 113

한 줄 요약

본 논문은 Graph Neural Networks (GNNs)와 neural-symbolic computing의 교차점을 조사하고, 분류 체계, 관계, 그리고 통합 추론 및 학습을 위한 유망한 방향을 개략적으로 제시한다.

ABSTRACT

Neural-symbolic computing has now become the subject of interest of both academic and industry research laboratories. Graph Neural Networks (GNN) have been widely used in relational and symbolic domains, with widespread application of GNNs in combinatorial optimization, constraint satisfaction, relational reasoning and other scientific domains. The need for improved explainability, interpretability and trust of AI systems in general demands principled methodologies, as suggested by neural-symbolic computing. In this paper, we review the state-of-the-art on the use of GNNs as a model of neural-symbolic computing. This includes the application of GNNs in several domains as well as its relationship to current developments in neural-symbolic computing.

연구 동기 및 목표

• 신경-기호 계산(neural-symbolic computing)과 그 분류 체계를 요약한다.
• GNN 모델을 neural-symbolic computing 접근법과 연관지어 설명한다.
• 관계적 및 기호 학습을 위한 GNN 아키텍처를 조사한다.
• 기호 추론을 신경 학습과 통합하는 데 있어 도전과 방향을 식별한다.

제안 방법

• Kautz의 프레임워크를 기반으로 neural-symbolic 시스템의 분류 체계를 제시한다.
• GNNs와 neural-symbolic computing 사이의 역사적 연결을 설명한다.
• 그래프 컨볼루션 및 어텐션 메커니즘이 관계적 및 기호 추론을 가능하게 하는지 설명한다.
• NSC 도구로서 Logic Tensor Networks 및 관계 임베딩을 논의한다.
• Pointer Networks와 집합 기반의 조합 문제에서의 역할을 설명한다.
• GNNs와 NSC를 통합하여 type 6 기호 추론을 향한 기회를 강조한다.

실험 결과

연구 질문

• RQ1 다양한 시스템 유형에서 Graph Neural Networks가 neural-symbolic computing과 어떻게 관련되는가?
• RQ2 GNNs 및 관련 그래프 기반 방법을 통해 표현될 수 있는 주요 NSC 아키텍처는 무엇인가?
• RQ3 신경 엔진 안에서 진정한 기호 추론을 가능하게 할 방향이나 아키텍처는 무엇인가?
• RQ4 그래프 구조화된 데이터에 적용될 때 현재 NSC 접근법의 한계는 무엇인가?

주요 결과

• GNN은 Kautz의 분류 체계에서 자연스러운 유형의 neural-symbolic 시스템으로 간주된다.
• 그래프 표현은 순열 불변성 및 가변 그래프 크기에 대한 확장 가능한 처리를 제공하여 추론 작업에 유리하다.
• Logic Tensor Nets 및 관계 임베딩은 기호 지식이 신경 학습을 어떻게 이끄는지 보여준다.
• 어텐션 및 포인터 기반 메커니즘은 그래프에서의 구조적이고 조합적인 문제를 다루는 데 사용된다.
• 본 논문은 신경 아키텍처 내에서(타입 6) 완전하게 통합된 기호 추론으로의 연구 방향을 제시한다.