[論文レビュー] Knowledge Graph Reasoning with Logics and Embeddings: Survey and Perspective

Wen Zhang, Jiaoyan Chen+4 more|arXiv (Cornell University)|Feb 15, 2022

Advanced Graph Neural Networks被引用数 13

ひとこと要約

本サーベイは、論理ベースと埋め込みベースの知識グラフ推論を統合するための包括的分析を提示し、手法を論理拡張埋め込みと埋め込み強化論理タスクの2つに分類する。主な統合メカニズム、論理の多様性と説明可能性の課題を特定し、統一されたベンチマークと事前学習モデルにおける応用の拡大を提言する。

ABSTRACT

Knowledge graph (KG) reasoning is becoming increasingly popular in both academia and industry. Conventional KG reasoning based on symbolic logic is deterministic, with reasoning results being explainable, while modern embedding-based reasoning can deal with uncertainty and predict plausible knowledge, often with high efficiency via vector computation. A promising direction is to integrate both logic-based and embedding-based methods, with the vision to have advantages of both. It has attracted wide research attention with more and more works published in recent years. In this paper, we comprehensively survey these works, focusing on how logics and embeddings are integrated. We first briefly introduce preliminaries, then systematically categorize and discuss works of logic and embedding-aware KG reasoning from different perspectives, and finally conclude and discuss the challenges and further directions.

研究の動機と目的

• 象徴的論理と知識グラフ埋め込みの統合に関する最近の進展を体系的に分類・分析すること。
• 純粋に論理ベースまたは埋め込みベースの推論の限界を克服するため、両者のパラダイム間の相乗効果を同定すること。
• 論理の多様性、説明可能性、ベンチマーク、実世界の応用統合といったオープンな課題を強調すること。
• 特に事前学習知識モデルにおけるニューラル記号統合のための今後の研究のロードマップを提供すること。
• AI分野におけるより強固で解釈可能かつ一般化可能な知識推論システムの開発を支援すること。

提案手法

• 論理と埋め込みの統合を、論理を埋め込み学習に組み込むことと、埋め込みを論理推論タスクの支援に用いることの2つの主要な流れに分類する。
• 論理の種別（例：パスルール、クラス階層）、事前定義された論理の有無、統合段階、相互作用方法に基づいて統合メカニズムを分析する。
• 一般的なオントロジカルスキーマとマルチホップ推論をサポートするSIC、ReasonKGE、TransOWLなどの具体的な技術をレビューする。
• 象徴的推論ステップを埋め込み空間に組み込むことで解釈性を向上させるマルチステップ推論モデルを提案する。
• 説明可能な機械学習の活用により、ハイブリッドモデルにおける透明性を維持することを提言する。
• 銀標準評価よりもスキーマの正しさを重視し、多様な論理パターンを備えたベンチマークの構築を要請する。

実験結果

リサーチクエスチョン

• RQ1 象徴的論理と知識グラフ埋め込みを効果的に統合することで、両者の長所を組み合わせた推論を実現する方法は何か？
• RQ2 埋め込みに論理を組み込むことと、埋め込みを論理推論を強化するために用いることの主な違いとトレードオフは何か？
• RQ3 統合された埋め込みフレームワーク内で、普遍的量化や排反性といった多様な論理タイプをサポートする際の主な課題は何か？
• RQ4 埋め込みモデルのブラックボックス性をどのように軽減すれば、ハイブリッド推論システムにおける説明可能性を向上させられるか？
• RQ5 論理パターンが標準データセットに欠落している場合に、論理-埋め込み統合を公正に評価するためのベンチマークはどのようなものが必要か？

主な発見

• 大多数の既存手法は、パスルールや基本的なクラス階層といった限定的な論理タイプに焦点を当てており、普遍的量化や排反性といった複雑なオントロジカル構造への対応が限られている。
• SIC、ReasonKGE、TransOWLといった少数のフレームワークのみが一般的なオントロジカルスキーマをサポートしており、包括的な論理統合におけるギャップが浮き彫りになっている。
• WN18RR や FB15k-237 といった現在のベンチマークは、多様な論理パターンを欠落しており、論理認識能力をテストする際、誤った評価を引き起こすことがある。
• 銀標準の正しさ評価指標の使用は疑問視されるべきであり、結果が知識グラフ間で一般化されないため、スキーマに基づく正しさ評価の導入が求められる。
• 説明可能性は依然として主要な課題であり、シンボリックな基盤や解釈可能技術がなければ、埋め込みベースの中間表現は解釈が困難である。
• 低リソース学習、レコメンデーションシステム、事前学習知識モデルにおける将来的な応用は、統合された論理-埋め込みアプローチによって顕著に恩恵を受けるだろう。