[論文レビュー] Graph Neural Networks Meet Neural-Symbolic Computing: A Survey and Perspective

Luís C. Lamb, Artur d’Avila Garcez+4 more|arXiv (Cornell University)|Feb 29, 2020

Advanced Graph Neural Networks参考文献 52被引用数 113

ひとこと要約

本論文はグラフニューラルネットワーク（GNN）とニューラル・シンボリック計算の交差点を調査し、分類法、関係性、および統合的推論と学習の有望な方向性を概説する。

ABSTRACT

Neural-symbolic computing has now become the subject of interest of both academic and industry research laboratories. Graph Neural Networks (GNN) have been widely used in relational and symbolic domains, with widespread application of GNNs in combinatorial optimization, constraint satisfaction, relational reasoning and other scientific domains. The need for improved explainability, interpretability and trust of AI systems in general demands principled methodologies, as suggested by neural-symbolic computing. In this paper, we review the state-of-the-art on the use of GNNs as a model of neural-symbolic computing. This includes the application of GNNs in several domains as well as its relationship to current developments in neural-symbolic computing.

研究の動機と目的

• ニューラル-シンボリック計算とその分類法の要約。
• GNNモデルとニューラル-シンボリック計算アプローチの関連付け。
• 関係的・シンボリック学習のためのGNNアーキテクチャの調査。
• シンボリック推論とニューラル学習の統合における課題と方向性の特定。

提案手法

• カウツのフレームワークに基づくニューラル-シンボリック・システムの分類法を提示する。
• GNNとニューラル-シンボリック計算の歴史的な関連を説明する。
• グラフ畳み込みと注意機構が関係的・シンボリック推論をどう可能にするかを説明する。
• Logic Tensor Netsとリレーショナル埋め込みをNSCツールとして論じる。
• Pointer Networksと集合ベースの組合せタスクにおける役割を説明する。
• 型6シンボリック推論に向けたGNNとNSCの統合の機会を強調する。

実験結果

リサーチクエスチョン

• RQ1 異なるシステムタイプにおいてグラフニューラルネットワークはニューラル-シンボリック計算とどのように関連するか？
• RQ2 GNNおよび関連するグラフベースの手法を通じて表現できる主なNSCアーキテクチャは何か？
• RQ3 ニューラルエンジン内で真のシンボリック推論を可能にする方向性やアーキテクチャは何か？
• RQ4 グラフ構造データに適用した際の現行NSCアプローチの限界は何か？

主な発見

• GNNはカウツの分類法の中で自然なタイプのニューラル-シンボリックシステムとして位置づけられる。
• グラフ表現は順列不変性を提供し、推論タスクの変動するグラフサイズをスケーラブルに扱える。
• Logic Tensor Netsとリレーショナル埋込みは、象徴的知識が神経学習を導く方法を示す。
• アテンションとポインター型機構は、グラフ上の構造化された組合せ問題を解くのに用いられる。
• 本論文は、ニューラルアーキテクチャ内で完全に統合されたシンボリック推論（タイプ6）へ向けた研究方向を概説している。