[論文レビュー] Can Knowledge Graphs Reduce Hallucinations in LLMs? : A Survey

Garima Agrawal, Tharindu Kumarage+2 more|arXiv (Cornell University)|Nov 14, 2023

Blockchain Technology Applications and Security被引用数 16

ひとこと要約

知識グラフを活用したLLMの包括的な調査で、方法を知識意識的推論・学習・検証の3カテゴリーに分類し、幻覚を減らす効果を評価する。

ABSTRACT

The contemporary LLMs are prone to producing hallucinations, stemming mainly from the knowledge gaps within the models. To address this critical limitation, researchers employ diverse strategies to augment the LLMs by incorporating external knowledge, aiming to reduce hallucinations and enhance reasoning accuracy. Among these strategies, leveraging knowledge graphs as a source of external information has demonstrated promising results. In this survey, we comprehensively review these knowledge-graph-based augmentation techniques in LLMs, focusing on their efficacy in mitigating hallucinations. We systematically categorize these methods into three overarching groups, offering methodological comparisons and performance evaluations. Lastly, this survey explores the current trends and challenges associated with these techniques and outlines potential avenues for future research in this emerging field.

研究の動機と目的

• LLMの幻覚に対処するため外部知識グラフの使用を動機付ける。
• KGベースの拡張方法を推論、学習、検証の3つの主要グループに体系的に分類する。
• 方法論的アプローチを比較し、タスクを横断する実証的洞察を提供する。
• KG拡張LLMにおける課題を強調し、将来の研究方向を提案する。

提案手法

• KGベースの拡張方法をKnowledge-Aware Inference、Knowledge-Aware Learning、Knowledge-Aware Validationに分類する。
• Knowledge-Aware Inference内で、KG-Augmented Retrieval、KG-Augmented Reasoning、KG-Controlled Generationを区別する。
• Knowledge-Aware Trainingを含む、Knowledge-Aware Pre-TrainingとKnowledge-Aware Fine-Tuning、およびファクトチェッキング機構を備えたKnowledge-Aware Validationについて論じる。
• 複数の研究からの実証的発見を要約する（例：取得拡張が事実性を向上させる、CoT/ToTとRoGがグラフを用いた推論を改善する）。

Figure 1: Taxonomy of Knowledge Graph-Enhanced LLMs.

実験結果

リサーチクエスチョン

• RQ1 どのKGベースの戦略がタスクを横断してLLMの幻覚を最も効果的に低減するか？
• RQ2 KG-Augmented Inference、KG-Aware Training、KG-Aware Validationは有効性とコストの面でどのように比較されるか？
• RQ3 知識グラフをLLMと統合する際の主な課題とトレードオフは何か？
• RQ4 KG拡張を用いて幻覚をさらに緩和する将来の方向性は何か？

主な発見

• 取得拡張手法（例：KAPING、RAG系システム）は生成時に構造化されたKG知識を取り込むことで事実性を向上させる。
• Reasoning-on-Graphsアプローチ（RoG）は精度を大幅に向上させる可能性があり、例えばグラフベースの推論を用いたChatGPTへのプロンプトは、引用文献で精度を66.8%から85.7%へ引き上げた。
• 知識グラフは推論と学習の両方を強化する実用的な外部メモリを提供し、記憶されたパラメータへの依存を減らす。
• CoT/ToTプロンプト技術とKGガイダンスを組み合わせると、より信頼性の高い多段推論と根拠に基づく生成を実現できる。
• KGデータでLLMsをファインチューニング（Knowledge-Aware Fine-Tuning）することは領域特化の理解を向上させる可能性があるが、リソース集約的でタスク依存である。
• KGベースの説明と論理述語を用いた知識検証は事実確認と解釈性を支援する。