[論文レビュー] Truveta Mapper: A Zero-shot Ontology Alignment Framework

M. Amir, Murchana Baruah+5 more|arXiv (Cornell University)|Jan 24, 2023

Semantic Web and Ontologies被引用数 4

ひとこと要約

Truveta Mapperは、オントロジー照合を翻訳タスクとして扱うゼロショット、マルチタスクのシーケンス・ツー・シーケンス変換器フレームワークを提案する。これは、ソースオントロジーのノードをターゲットオントロジーのパスにマッピングする。ログ線形の推論複雑度を達成し、後処理やラベル付きデータを必要とせずに、UMLSベンチマークにおいてBERTMap や LogMap などの最先端手法を上回る最先端の性能を発揮する。

ABSTRACT

In this paper, a new perspective is suggested for unsupervised Ontology Matching (OM) or Ontology Alignment (OA) by treating it as a translation task. Ontologies are represented as graphs, and the translation is performed from a node in the source ontology graph to a path in the target ontology graph. The proposed framework, Truveta Mapper (TM), leverages a multi-task sequence-to-sequence transformer model to perform alignment across multiple ontologies in a zero-shot, unified and end-to-end manner. Multi-tasking enables the model to implicitly learn the relationship between different ontologies via transfer-learning without requiring any explicit cross-ontology manually labeled data. This also enables the formulated framework to outperform existing solutions for both runtime latency and alignment quality. The model is pre-trained and fine-tuned only on publicly available text corpus and inner-ontologies data. The proposed solution outperforms state-of-the-art approaches, Edit-Similarity, LogMap, AML, BERTMap, and the recently presented new OM frameworks in Ontology Alignment Evaluation Initiative (OAEI22), offers log-linear complexity, and overall makes the OM task efficient and more straightforward without much post-processing involving mapping extension or mapping repair. We are open sourcing our solution.

研究の動機と目的

• オントロジー照合を、ソースオントロジーのノードからターゲットオントロジーのパスへの翻訳タスクとして扱うことで、教師なしのオントロジー照合の課題に取り組む。
• 手動でラベル付けされたクロスオントロジー対応データへの依存を減らし、ゼロショット学習と予測を可能にする。
• 統合的かつエンドツーエンドのフレームワークを用いて、複数のオントロジー間での転移学習を活用することで、効率性と正確性を向上させる。
• 語彙的・非文脈的アプローチの限界を克服するため、テキスト的意味とオントロジーのグラフ構造を同時にモデル化する。
• マッピングの拡張や修復といった後処理ステップの必要性を排除し、本番環境へのデプロイを簡素化する。

提案手法

• オントロジーをグラフとして表現し、オントロジー照合を、ソースクラスをターゲットオントロジー内の階層的パスに翻訳するシーケンス・ツー・シーケンスの翻訳タスクとして定式化する。
• マスクド言語モデル（MLM）を用いて、公開テキストコーパスと内部オントロジーデータ上で事前学習されたマルチタスクのシーケンス・ツー・シーケンス変換器モデルを採用し、意味的表現と構造的表現を学習する。
• クラスラベルと同義語を入力とし、階層的IDを出力として用いることで、オントロジー構造と意味的同等性を捉えるためにモデルをファインチューニングする。
• バイトレベルのトークン化を活用することで、多様なトークン化スキームにわたる耐性を高め、一般化性能を向上させる。
• グラフ探索と埋め込みによる意味的類似度を組み合わせたハイブリッド予測戦略を適用し、グリーディデコードに比べて耐性を高める。
• BERTMap や同様のモデルが全ターゲットオントロジー間で類似度計算を二次的に行うのに対し、Truveta Mapper は全ターゲットオントロジーの類似度計算を回避することで、ログ線形の推論複雑度を達成する。

実験結果

リサーチクエスチョン

• RQ1 オントロジー照合は、オントロジーのグラフ間でゼロショットの翻訳タスクとして効果的に再定式化可能か？
• RQ2 統一的でマルチタスクの変換器モデルは、手動による対応データがなくても、多様なオントロジー間で意味的意味と構造的階層を学習可能か？
• RQ3 テキスト的および構造的特徴を統合的に事前学習することで、語彙的または意味的類似度に特化したモデルと比較して、優れた照合性能が得られるか？
• RQ4 ログ線形の推論複雑度を達成しながら、類似度ベースの手法の二次的コストを回避することで、最先端の結果を達成できるか？
• RQ5 特定のタスクに特化したファインチューニングなしで、異なるオントロジー対（例：SNOMED から FMA、SNOMED から NCIT）にわたって、どの程度一般化可能か？

主な発見

• Truveta Mapper (TM) は、SNOMED (Body) から FMA へのタスクで Fスコア 0.950 を達成し、2番目に良い手法（AML）を 2.3 パcentポイント上回った。
• SNOMED (Pharm) から NCIT へのタスクでは、TM が Fスコア 0.802 を達成し、AMD や BERTMap-Lite よりも 11.0 パcentポイントも向上した。
• SNOMED (Neoplas) から NCIT へのタスクでは、TM が Fスコア 0.792 を記録し、BERTMap-Lite や Edit-Similarity よりも 4.3 パcentポイント向上した。
• Body タスクでは、MRR が 0.987 に達し、BERTMap (0.919) や LogMap (0.820) をすべて上回った。
• Hit@1 スコアは、Body タスクで 0.982 に達し、トップ1予測の高精度を示した。これは、Edit-Similarity (0.760) や LogMap (0.695) よりも顕著に上回った。
• 全ターゲットオントロジー間の類似度計算を回避することで、推論複雑度を二次的からログ線形に低減し、スケーラブルなデプロイを可能にした。