[論文レビュー] Soft Marginal TransE for Scholarly Knowledge Graph Completion

Mojtaba Nayyeri, Sahar Vahdati+2 more|arXiv (Cornell University)|Apr 27, 2019

Advanced Graph Neural Networks参考文献 18被引用数 9

ひとこと要約

本論文は、学術的知識グラフ（SKG）補完を目的とした、TransEのソフトマージン変種であるTransESMを提案する。硬いマージンランク損失に代わり微分可能なソフトマージン損失を採用することで、誤ったネガティブサンプルに対してより頑健な性能を発揮し、学術的KGにおいて99.9%のHit@10を達成した。これは、元のTransE（95%）およびComplEx、TransH、TransRなどの他のベースラインよりも顕著に優れている。

ABSTRACT

Knowledge graphs (KGs), i.e. representation of information as a semantic graph, provide a significant test bed for many tasks including question answering, recommendation, and link prediction. Various amount of scholarly metadata have been made vailable as knowledge graphs from the diversity of data providers and agents. However, these high-quantities of data remain far from quality criteria in terms of completeness while growing at a rapid pace. Most of the attempts in completing such KGs are following traditional data digitization, harvesting and collaborative curation approaches. Whereas, advanced AI-related approaches such as embedding models - specifically designed for such tasks - are usually evaluated for standard benchmarks such as Freebase and Wordnet. The tailored nature of such datasets prevents those approaches to shed the lights on more accurate discoveries. Application of such models on domain-specific KGs takes advantage of enriched meta-data and provides accurate results where the underlying domain can enormously benefit. In this work, the TransE embedding model is reconciled for a specific link prediction task on scholarly metadata. The results show a significant shift in the accuracy and performance evaluation of the model on a dataset with scholarly metadata. The newly proposed version of TransE obtains 99.9% for link prediction task while original TransE gets 95%. In terms of accuracy and Hit@10, TransE outperforms other embedding models such as ComplEx, TransH and TransR experimented over scholarly knowledge graphs

研究の動機と目的

• 学術的知識グラフ（SKG）の不完全性に起因する課題を解決するため、知識グラフ埋め込み（KGE）モデルを用いたリンク予測の精度を向上させること。
• 現実世界のSKGにおいて誤ったネガティブサンプルに敏感である、TransEにおける硬いマージンランクの制限を克服すること。
• 訓練中にマージン制約を徐々に緩和できるようにする、新たな損失関数「ソフトマージン」の開発と評価。
• 共同著者推薦を目的とした実世界の学術的知識グラフにおいて、提案されたTransESMモデルの有効性を実証すること。
• 分野特化型で多様な学術的メタデータを扱う分野に特化した、より頑健で正確なKGEアプローチの提供。

提案手法

• 誤ったネガティブサンプルがマージンに部分的に含まれる可能性があるように、スラック変数ξhrを用いて硬いマージンをソフト境界に置き換える、TransEの修正損失関数を提案。
• 正則化項とヘッジ損失を組み合わせた複合目的関数に最適化問題を再定式化：min ∑(λ₀ξ² + λ₁max(fr(h,t)−γ₁,0) + λ₂max(γ₂−fr(h′,t′)−ξhr,0))。
• ハイパーパramータを検証セットでチューニングしたAdaGradを最適化に採用し、埋め込み次元d ∈ {50,100,200}、γ₁ ∈ {0.1,…,2}、γ₂ ∈ {0.2,…,2.1}、λ₀ ∈ {0.01,0.1,1,10,100}を含む。
• PyKEENに依存しない形でTransEおよびTransESMを再実装し、トレーニングおよび損失計算の完全な制御を確保。
• 評価指標としてフィルタドMean RankおよびフィルタドHit@10を用い、ネガティブサンプルはテストトリプルの頭部または末尾エンティティを置き換えることで生成。
• 上位50件の予測共同著者について、9名の研究者に対して、共同研究履歴および研究プロファイルを手動で確認し、推薦の妥当性を検証。

実験結果

リサーチクエスチョン

• RQ1 標準的なTransEと比較して、学術的知識グラフの不完全性を考慮したリンク予測性能を向上させるために、TransEのソフトマージン変種が有効であるか？
• RQ2 提案されたソフトマージン損失は、現実世界の学術的KGにおける誤ったネガティブサンプルの悪影響をどのように軽減するか？
• RQ3 ComplEx、TransH、TransRなどの既存のKGEモデルと比較して、TransESMは学術的リンク予測タスクでどの程度優れているか？
• RQ4 モデルは、実際の研究協働パターンと整合する高品質な共同著者推薦を生成できるか？
• RQ5 損失関数における微分可能なスラック変数の使用は、分野特化型KGにおけるより頑健で正確な埋め込みをもたらすか？

主な発見

• TransESMは、学術的知識グラフにおいて99.9%のフィルタドHit@10を達成し、元のTransEの95%を顕著に上回った。
• Mean Rankは1.67（フィルタド）に低下し、TransE（2.17）、TransH（985.16）、TransR（1200.35）、ComplEx（56.2%のフィルタドHit@10）を上回った。
• TransESMは、先行のSOTAモデルであるTransE-RSよりもMean Rank（1.67 vs. 3.03）およびHit@10（99.9% vs. 95.6%）で優れた性能を示した。
• 共同著者推薦において、9名の研究者について上位50件の予測のうち89%が、プロファイルおよび出版履歴に基づいて妥当な協働関係として確認された。
• ソフトマージン損失は、誤ったネガティブサンプルへの感受性を効果的に低減し、ノイズが多い現実世界の学術データにおけるモデルの頑健性と一般化性能を向上させた。
• ハイパーパramータチューニングの結果、λ₁=1およびλ₂=1が最適な性能をもたらし、異なる埋め込み次元およびマージン境界においてもモデルは安定していた。