[论文解读] Combining Knowledge Graphs and Large Language Models

Amanda Kau, Xuzeng He+4 more|arXiv (Cornell University)|Jul 9, 2024

Topic Modeling被引用 11

一句话总结

对将知识图谱与大型语言模型结合的方法的综述，按 KG-augmented LLMs、LLM-augmented KGs、以及混合方法进行分类，并分析趋势、收益与挑战。

ABSTRACT

In recent years, Natural Language Processing (NLP) has played a significant role in various Artificial Intelligence (AI) applications such as chatbots, text generation, and language translation. The emergence of large language models (LLMs) has greatly improved the performance of these applications, showing astonishing results in language understanding and generation. However, they still show some disadvantages, such as hallucinations and lack of domain-specific knowledge, that affect their performance in real-world tasks. These issues can be effectively mitigated by incorporating knowledge graphs (KGs), which organise information in structured formats that capture relationships between entities in a versatile and interpretable fashion. Likewise, the construction and validation of KGs present challenges that LLMs can help resolve. The complementary relationship between LLMs and KGs has led to a trend that combines these technologies to achieve trustworthy results. This work collected 28 papers outlining methods for KG-powered LLMs, LLM-based KGs, and LLM-KG hybrid approaches. We systematically analysed and compared these approaches to provide a comprehensive overview highlighting key trends, innovative techniques, and common challenges. This synthesis will benefit researchers new to the field and those seeking to deepen their understanding of how KGs and LLMs can be effectively combined to enhance AI applications capabilities.

研究动机与目标

• 阐明知识图谱如何缓解大型语言模型的局限性，如幻觉和领域差距。
• 调研并综合28篇关于以知识图谱驱动的LLMs、以LLMs为基础的知识图谱，以及KG-LLM混合方法的论文。
• 将方法分为附加型与联合交互，并提供主题分析。
• 突出关键趋势、创新技术及当前挑战，以指引初入该领域的研究者。

提出的方法

• 针对过去五年（2024年2月至5月）的文章，在 arXiv 上进行有针对性的检索。
• 利用关键词对标题和摘要进行筛选，以识别同时涉及 LLMs 与KGs 的工作。
• 将方法分类为 KG-augmented LLMs、LLM-augmented KGs、以及混合方法。
• 提供主题分析并讨论优点、局限性以及未来方向。
• 给出对 KG-LLM 集成影响与潜力的结论性综述。

实验结果

研究问题

• RQ1 RQ1：如何利用知识图谱来提升大型语言模型的能力？
• RQ2 RQ2：在何种方式下可以利用LLMs来支持和增强知识图谱？
• RQ3 RQ3：如果将知识图谱和大型语言模型以更紧密的联合方式结合，是否具有更多优势？

主要发现

• 联合的KG-LLM方法通常在知识驱动任务中提高语义理解和任务性能。
• LLMs 可以协助知识图谱的构建、验证和对齐/定位，使知识图谱管线更加自动化和可扩展。
• 融合文本与KG嵌入，或将KG知识注入提示的混合架构可以提升可解释性和可追溯性。
• 当前挑战包括领域特定KG的可用性、计算资源需求以及知识更新/维护。
• 许多知识整合努力仅获得适度提升，提示需要更有效的融合策略。
• 随着多模态大型语言模型的发展，多模态的KG-LLM 思路是一个有前景的未来方向。