[論文レビュー] Description Logic EL++ Embeddings with Intersectional Closure

Peng, Xi, Tang, Zhenwei+3 more|arXiv (Cornell University)|Feb 28, 2022

Biomedical Text Mining and Ontologies被引用数 2

ひとこと要約

本稿では、記述論理学EL++のための新しい埋め込み手法ELBEを提案する。ELBEは、概念を表すためにn-球ではなく軸に平行なボックスを用いることで、交差閉包性（二つの概念の積集合が埋め込み空間内でも有効な概念のまま保たれる性質）を保証する。概念をボックスとしてモデル化し、EL++の公理から導かれる幾何的制約を設定することで、ELBEは生物学的および合成的データセットにおいて、既存のn-球ベース手法を上回る性能を達成し、概念同値性推論において優れた性能を発揮する。

ABSTRACT

Many ontologies, in particular in the biomedical domain, are based on the Description Logic EL++. Several efforts have been made to interpret and exploit EL++ ontologies by distributed representation learning. Specifically, concepts within EL++ theories have been represented as n-balls within an n-dimensional embedding space. However, the intersectional closure is not satisfied when using n-balls to represent concepts because the intersection of two n-balls is not an n-ball. This leads to challenges when measuring the distance between concepts and inferring equivalence between concepts. To this end, we developed EL Box Embedding (ELBE) to learn Description Logic EL++ embeddings using axis-parallel boxes. We generate specially designed box-based geometric constraints from EL++ axioms for model training. Since the intersection of boxes remains as a box, the intersectional closure is satisfied. We report extensive experimental results on three datasets and present a case study to demonstrate the effectiveness of the proposed method.

研究の動機と目的

• 既存のn-球ベース埋め込み手法におけるEL++オントロジーにおける交差閉包性の欠如という問題に取り組むこと。これは、概念の積集合の有効な表現を妨げる。
• 積集合において論理的閉包性を保つ幾何的埋め込み手法を開発すること。これにより、二つの概念の積集合が埋め込み空間内でも有効な概念のまま保たれるようにする。
• ボックスの数学的性質を活用することで、EL++埋め込みにおける概念同値性推論および類似度測定の精度を向上させること。
• 実世界および合成的生物学的データセットを用いた広範な評価を通じて、ボックスベース埋め込みの有効性を実証すること。

提案手法

• EL++オントロジー内の概念を、n次元埋め込み空間内における軸に平行なボックスとして表現する。各概念は最小座標ベクトル（boxmin）と最大座標ベクトル（boxmax）によって定義される。
• EL++の公理（例：包含関係、概念の積集合、排反性）から導かれる幾何的制約を設計し、モデル学習をガイドし論理的一致性を保証する。
• 役割関係を符号化するために、基礎となる関係モデルとしてTransEを用いるが、今後の研究ではより表現力の高いモデルへの拡張も可能である。
• 包含関係、積集合、排反性を含む正しい空間的関係を強制する損失関数を定式化する。
• マージンベース損失関数とコントラスト損失関数の組み合わせを用いて、エンドツーエンドでモデルを学習し、ボックス表現を最適化する。
• ボックスの中心（boxminとboxmaxの中点）を用いて概念間の類似度を計算することで、堅牢な比較と推論を可能にする。

実験結果

リサーチクエスチョン

• RQ1 ボックスベース埋め込みは、二つの概念の積集合が有効な概念のまま保たれるというEL++埋め込みにおける交差閉包性を満たすことができるか？
• RQ2 交差閉包性を強制することで、EL++埋め込みにおける概念同値性推論の性能が向上するか？
• RQ3 生物学的オントロジーにおける推論および類似度予測の観点から、ELBEは既存のn-球ベース手法（例：ELEm）と比較してどのように差をつけるか？
• RQ4 ELBEは、埋め込み空間内で二つの他の概念の積集合から、同値な概念をどれだけ正確に推論できるか？

主な発見

• ELBEは、概念同値性推論において1位ランクでのヒット率が87.1%を達成し、ELEmの71.0%を大きく上回った。
• イーストPPIデータセットでは、ELBEが10位までのリコールにおいて平均ランク201を達成し、ELEm（187）および他のベースラインと比較して、すべての指標で優れた性能を示した。
• ヒューマンPPIデータセットでは、ELBEがリコールおよびF1の両方でAUCスコア0.97を達成し、類似度予測における優れた一般化性能と頑健性を示した。
• 3つのデータセットすべてにおいて、H@10およびH@100指標が一貫して優れており、多様な推論タスクにおける有効性を確認した。
• 合成データセットにおける事例研究により、ELBEが論理的閉包性（積集合下での閉包性）を正しくモデル化していることが確認され、理論的基盤の妥当性が裏付けられた。
• ELBEの性能向上は、交差閉包性の満たされたことに起因し、同値な概念のより正確で安定した推論を可能としている。