[論文レビュー] Logic Embeddings for Complex Query Answering

Francois Luus, Prithviraj Sen+5 more|arXiv (Cornell University)|Feb 28, 2021

Logic, Reasoning, and Knowledge参考文献 30被引用数 7

ひとこと要約

この論文は、スコーレム化を用いて存在記述論理式クエリを実数値論理に変換することで、不完全な知識グラフ上で効率的かつ正確に複雑なクエリを回答するための新規手法、論理埋め込み（Logic Embeddings）を提案する。集合演算は真偽境界におけるt-ノルムを用いてモデル化され、直接の充足可能性評価が可能となり、不確実性のモデリングが向上し、密度ベースの手法（例：Beta埋め込み）と比較して2–3倍高速な学習が達成される。さらに、否定や答えのサイズ予測において優れた性能を示す。

ABSTRACT

Answering logical queries over incomplete knowledge bases is challenging because: 1) it calls for implicit link prediction, and 2) brute force answering of existential first-order logic queries is exponential in the number of existential variables. Recent work of query embeddings provides fast querying, but most approaches model set logic with closed regions, so lack negation. Query embeddings that do support negation use densities that suffer drawbacks: 1) only improvise logic, 2) use expensive distributions, and 3) poorly model answer uncertainty. In this paper, we propose Logic Embeddings, a new approach to embedding complex queries that uses Skolemisation to eliminate existential variables for efficient querying. It supports negation, but improves on density approaches: 1) integrates well-studied t-norm logic and directly evaluates satisfiability, 2) simplifies modeling with truth values, and 3) models uncertainty with truth bounds. Logic Embeddings are competitively fast and accurate in query answering over large, incomplete knowledge graphs, outperform on negation queries, and in particular, provide improved modeling of answer uncertainty as evidenced by a superior correlation between answer set size and embedding entropy.

研究の動機と目的

• 欠落した事実が不確実性を引き起こす不完全な知識ベース上で、複雑で存在記述論理式のクエリを回答するという課題に対処すること。
• 従来のクエリ埋め込み手法の限界、例えば否定のサポートが不十分であること、高価な確率密度に依存していること、不確実性モデリングが弱いことに対処すること。
• 潜在的な真偽境界における合成論理演算に変換することで、マルチホップクエリを効率的かつスケーラブルな推論にすること。
• 真偽境界の幅を答えの集合サイズとエントロピーに関連付けることで、不確実性モデリングを向上させ、予測精度を高めること。
• Beta埋め込みのような密度ベースの埋め込みと比較して、より高速な学習とより安定した収束を達成すること。

提案手法

• 存在変数を除去するためのスコーレム化が用いられ、FOLクエリが真偽境界の潜在空間に埋め込み可能な形に変換される。
• エンティティの部分集合は、0 ≤ l ≤ u ≤ 1 を満たす真偽境界の配列 [l, u] として表現され、所属に関する不確実性が符号化される。
• 集合演算（積集合（論理積）、和集合（論理和）、補集合（否定））は、真偽値におけるt-ノルム、t-コノルム、境界反転によって実装される。
• 充足可能性は、クエリ埋め込みと候補となる答えとの類似度を測る距離関数 q(T) = 1 − D(T, A) を用いて直接評価される。
• 不確実性は真偽境界の幅によってモデリングされ、それぞれの境界に対してエントロピーが計算され、答えの集合サイズと相関づけられる。
• 積分や閉形式の分布を避けるために、ベクトル化され微分可能な演算が用いられ、計算が効率化される。

実験結果

リサーチクエスチョン

• RQ1 否定を完全にサポートしつつ計算効率を維持できるように、複雑な記述論理式クエリを埋め込む方法は存在するか？
• RQ2 確率密度と比較して、真偽境界をどのように用いることで答えの集合における不確実性をより効果的にモデリングできるか？
• RQ3 真偽境界上で直接論理推論を行うことで、密度ベースの埋め込みと比較して答えの正確性と基数予測が向上するか？
• RQ4 スコーレム化を用いることで、グランドイングやブルートフォースサーチを回避しながら、効率的かつスケーラブルなクエリ回答が可能になるか？
• RQ5 真偽境界におけるt-ノルムの使用は、密度ベースの不一致測度と比較して、学習速度と収束性において優れているか？

主な発見

• 真偽境界のエントロピーと不一致の計算が閉形式で簡単に行えるため、Beta埋め込みと比較して2–3倍高速な学習が達成され、滑らかでより安定した学習曲線が得られた。
• 答えのサイズ予測における平均絶対誤差がBeta埋め込みと比較して83％低減され、より情報豊かな不確実性モデリングであることが示された。
• 論理埋め込みは否定クエリにおいて既存の手法を上回り、複雑な論理演算の取り扱いが優れていることが実証された。
• 答えの集合サイズと埋め込みエントロピーの間に強い相関が認められ、真偽境界の幅が不確実性を効果的にモデル化していることが妥当性を確認した。
• 真偽境界上でt-ノルムを用いることで、幾何的形状やニューラル近似に依存せずに、直接的かつ微分可能な論理推論が可能になった。
• 密度ベースのアプローチと比較して、計算コストを著しく削減しながらも、クエリ回答の精度は競争力を持つことを示した。