[論文レビュー] KnowGPT: Knowledge Graph based Prompting for Large Language Models

Qinggang Zhang, Junnan Dong+4 more|arXiv (Cornell University)|Dec 11, 2023

Topic Modeling被引用数 4

ひとこと要約

KnowGPT は、ChatGPT や GPT-4 などの大規模言語モデル（LLM）を、API アクセスのみで知識グラフ（KG）を用いてブラックボックス方式で知識注入することで向上させるフレームワークである。深層強化学習を用いて KG から関連する推論経路を抽出し、マルチアームドバンディット（MAB）を用いて最適なプロンプトを自動的に構築する。ChatGPT より平均 23.7% の向上を達成し、OpenbookQA では 91.6% の精度を記録し、人間水準に近い性能を達成した。

ABSTRACT

Large Language Models (LLMs) have demonstrated remarkable capabilities in many real-world applications. Nonetheless, LLMs are often criticized for their tendency to produce hallucinations, wherein the models fabricate incorrect statements on tasks beyond their knowledge and perception. To alleviate this issue, researchers have explored leveraging the factual knowledge in knowledge graphs (KGs) to ground the LLM's responses in established facts and principles. However, most state-of-the-art LLMs are closed-source, making it challenging to develop a prompting framework that can efficiently and effectively integrate KGs into LLMs with hard prompts only. Generally, existing KG-enhanced LLMs usually suffer from three critical issues, including huge search space, high API costs, and laborious prompt engineering, that impede their widespread application in practice. To this end, we introduce a novel Knowledge Graph based PrompTing framework, namely KnowGPT, to enhance LLMs with domain knowledge. KnowGPT contains a knowledge extraction module to extract the most informative knowledge from KGs, and a context-aware prompt construction module to automatically convert extracted knowledge into effective prompts. Experiments on three benchmarks demonstrate that KnowGPT significantly outperforms all competitors. Notably, KnowGPT achieves a 92.6% accuracy on OpenbookQA leaderboard, comparable to human-level performance.

研究の動機と目的

• ChatGPT や GPT-4 のようなブラックボックス LLM が、微調整が不可能で内部パラメータにアクセスできないという制限を克服すること。
• LLM の重みを変更せずに、知識グラフ（KG）からドメイン固有の知識を統合することで、質問応答における事実的正確性を向上させること。
• 入力長制約の下で関連する KG トリプルの選択と LLM に適したプロンプトの構築という課題を克服すること。
• 強化学習とバンディットアルゴリズムを用いて、各質問に応じて最適なプロンプトテンプレートと経路抽出戦略を動的に選択するフレームワークを開発すること。
• オープンドメインおよびドメイン固有の質問応答タスクにおいて、人間水準のベンチマークと同等の性能を達成すること。

提案手法

• 質問エンティティから答えエンティティへと移動するように、知識グラフ（KG）をナビゲートすることで、情報量が多く、簡潔な推論経路を抽出するための深層強化学習（RL）エージェントを訓練する。
• 経路到達可能性、文脈関連性、簡潔さを最大化するように設計されたカスタム報酬関数を採用し、RL ポリシーが効果的な経路選択を学習できるようにする。
• 各入力質問に対して、経路抽出戦略とプロンプトテンプレートの最良組み合わせを動的に選択するために、マルチアームドバンディット（MAB）フレームワークを採用する。
• MAB は探索と活用のバランスを保ち、モデルの微調整を必要とせずに、質問固有の特徴に適応したプロンプト構築を最適化する。
• フレームワークは LLM の API のみを用いてデプロイされており、GPT-4 や ChatGPT のようなクローズドソースモデルとも互換性がある。
• システムは、ConceptNet と USMLE を KG のソースとして用い、CSQA、OpenbookQA、MedQA の3つのベンチマークデータセットで評価された。

Figure 1 : A real-world question from OpenbookQA. ChatGPT could effectively correct the answer given the scientific reasoning background from ConceptNet ( blue : question concepts, red : answers, grey : entities not present in questions).

実験結果

リサーチクエスチョン

• RQ1 モデル重みへのアクセスがなく、ブラックボックスな LLM の性能を、重みの変更なしに知識グラフのインジェクションによって効果的に向上させられるか？
• RQ2 厳密な入力長制約の下で、大規模な知識グラフから関連知識を効率的に抽出する方法は何か？
• RQ3 KG からの事実的知識統合において、LLM の性能を最大化するためのプロンプト構築戦略は何か？
• RQ4 動的で適応的なプロンプト生成法は、複雑な推論タスクにおいて、静的プロンプトテンプレートを上回ることができるか？
• RQ5 このようなフレームワークは、LLM と人間水準の性能の間の事実的正確性のギャップをどの程度埋めることができるか？

主な発見

• KnowGPT は3つのベンチマークデータセットで ChatGPT よりも平均 23.7% の向上を達成し、事実的正確性の顕著な向上を示した。
• OpenbookQA ランキングでは 91.6% の精度を記録し、人間水準の性能と同等であった。
• GPT-4 よりも 2.9% の性能向上を達成しており、最先端モデルに対しても有効性が裏付けられた。
• MAB を用いたプロンプト構築戦略は、静的テンプレートを上回り、KnowGPT の完全なシステムは CSQA で 82.7%、MedQA で 92.4% の精度を達成した。
• アブレーションスタディの結果、RL を用いた経路抽出と MAB を用いたプロンプト選択の両方が、最終的な性能に顕著な寄与をしていることが確認された。
• 事例スタディでは、プロンプトフォーマットが LLM の出力に大きく影響することが示され、KnowGPT の自動フォーマット選択は、三元組やグラフ記述のような固定テンプレートを常に上回った。

Figure 2 : The overall architecture of our proposed black-box knowledge injection framework, i.e., KnowGPT . Given the question context and answer choices, we retrieve a question-specific subgraph from the real-world KG. Path Extraction is first dedicated to searching for the most informative and co