[論文レビュー] PyKEEN 1.0: A Python Library for Training and Evaluating Knowledge Graph Embeddings

Mehdi Ali, Max Berrendorf+5 more|arXiv (Cornell University)|Jul 28, 2020

Advanced Graph Neural Networks参考文献 15被引用数 89

ひとこと要約

PyKEEN 1.0 は、完全に組み合わせ可能な知識グラフ埋め込みモデル、自動メモリ最適化、KGEs の訓練と評価のための広範なハイパーパラメータ最適化を提供する再設計された Python ライブラリです。

ABSTRACT

Recently, knowledge graph embeddings (KGEs) received significant attention, and several software libraries have been developed for training and evaluating KGEs. While each of them addresses specific needs, we re-designed and re-implemented PyKEEN, one of the first KGE libraries, in a community effort. PyKEEN 1.0 enables users to compose knowledge graph embedding models (KGEMs) based on a wide range of interaction models, training approaches, loss functions, and permits the explicit modeling of inverse relations. Besides, an automatic memory optimization has been realized in order to exploit the provided hardware optimally, and through the integration of Optuna extensive hyper-parameter optimization (HPO) functionalities are provided.

研究の動機と目的

• 多様なモデルコンポーネントをサポートする高度に構成可能で再利用可能なKG埋め込みツールキットの必要性を動機づける。
• 相互作用モデル、損失関数、トレーニングアプローチ、逆関係の処理を統合した統一で構成可能なアーキテクチャを提供する。
• 標準化された指標と拡張可能なベンチマークデータセットで、公平で再現可能な評価を可能にする。
• 自動メモリ最適化と高度な HPO を組み込んで、スケーラビリティと堅牢性を向上させる。
• オープンソースの実践とツールを通じてコミュニティ主導の開発と保守性を促進する。

提案手法

• KGEMs を4つのコンポーネント：相互作用モデル、損失関数、訓練アプローチ、逆関係の処理の組み合わせとして定義する。
• 23 個の相互作用モデル、7 個の損失関数、4 個の正則化項、2 個の訓練アプローチ、そして 13 個の組み込みデータセットを提供し、柔軟なモデル構築を可能にする。
• 適用可能な相互作用モデルのために逆関係の明示的なモデリングを有効にする。
• 完全な組み合わせ性と置換性を確保する統一 API（pykeen.model.Model、pykeen.loss.Loss、pykeen.training.TrainingLoop）を提供。
• 早期停止と HPO ワークフローを用いた Optuna を統合し、堅牢な検証、訓練、テストを実現。
• ハードウェアに応じて最大の実行可能訓練/評価バッチサイズを自動計算するメモリ最適化を実装し、必要に応じてサブバッチを調整。

実験結果

リサーチクエスチョン

• RQ1 KG 埋め込みモデルを完全に組み合わせ可能にして、コンポーネントの独立した評価を可能にするにはどうすればよいか？
• RQ2 訓練と評価中の自動メモリ使用量を最適化するための仕組みは何が必要か？
• RQ3 KG 埋め込みワークフローにハイパーパラメータ最適化を効果的に組み込むには？
• RQ4 堅牢で再現可能な KGEM 評価のために、どのような評価機能（指標、データセット、逆関係）を用意する必要があるか？
• RQ5 PyKEEN をオープンソースのコミュニティプロジェクトとして拡張・維持するには？

主な発見

• PyKEEN 1.0 は 23 の相互作用モデル、7 つの損失関数、4 つの正則化項、2 つの訓練アプローチ、6 つの評価指標、13 の組み込みベンチマークデータセットをサポートする。
• このフレームワークは、モデル、損失、訓練ループの統一APIを介して、逆関係の明示的なモデリングと完全な組み合わせ性を実現する。
• 自動メモリ最適化により、利用可能なハードウェアに合わせてバッチサイズを調整して訓練と評価をメモリ効率化する。
• 早期停止を含む Optuna ベースのハイパーパラメータ最適化を統合し、検証とテストの実行で堅牢性を向上させる。
• 自動化されたテスト、CI、ドキュメンテーションを通じて再現性と保守性を重視し、MITライセンスの下で公開されている。
• PyKEEN 1.0 は関連する KGEM ライブラリよりも組み合わせ可能で機能豊富と位置付けられ、拡張性とメモリ管理を強調している。