[论文解读] Tool Learning with Large Language Models: A Survey

Changle Qu, Sunhao Dai+6 more|arXiv (Cornell University)|May 28, 2024

Natural Language Processing Techniques被引用 4

一句话总结

本综述全面概述了大语言模型（LLMs）的工具学习，系统分析了工具集成为何能提升LLM能力——如减少幻觉并支持复杂推理——以及如何通过四阶段工作流（任务规划、工具选择、工具调用和响应生成）实现。其主要贡献在于提出统一的分类体系、基准分类，并识别出开放性挑战，为该领域的研究人员和开发者提供了基础性资源。

ABSTRACT

Recently, tool learning with large language models (LLMs) has emerged as a promising paradigm for augmenting the capabilities of LLMs to tackle highly complex problems. Despite growing attention and rapid advancements in this field, the existing literature remains fragmented and lacks systematic organization, posing barriers to entry for newcomers. This gap motivates us to conduct a comprehensive survey of existing works on tool learning with LLMs. In this survey, we focus on reviewing existing literature from the two primary aspects (1) why tool learning is beneficial and (2) how tool learning is implemented, enabling a comprehensive understanding of tool learning with LLMs. We first explore the "why" by reviewing both the benefits of tool integration and the inherent benefits of the tool learning paradigm from six specific aspects. In terms of "how", we systematically review the literature according to a taxonomy of four key stages in the tool learning workflow: task planning, tool selection, tool calling, and response generation. Additionally, we provide a detailed summary of existing benchmarks and evaluation methods, categorizing them according to their relevance to different stages. Finally, we discuss current challenges and outline potential future directions, aiming to inspire both researchers and industrial developers to further explore this emerging and promising area. We also maintain a GitHub repository to continually keep track of the relevant papers and resources in this rising area at https://github.com/quchangle1/LLM-Tool-Survey.

研究动机与目标

• 通过提供系统化、结构化的概述，解决当前关于大语言模型工具学习研究的碎片化状态。
• 从六个具体维度阐明工具集成与工具学习范式的优势。
• 将工具学习流程分解为四个核心阶段：任务规划、工具选择、工具调用和响应生成。
• 根据其与各阶段的相关性，对现有基准和评估方法进行分类与总结。
• 识别关键挑战并提出未来研究方向，包括安全性、统一框架、真实世界数据以及多模态集成。

提出的方法

• 本综述对约100篇关于大语言模型工具学习的文献进行了系统性文献回顾。
• 提出一个四阶段的工具学习分类体系：任务规划、工具选择、工具调用和响应生成。
• 根据其与工作流各阶段的契合度，对现有基准和评估协议进行分类。
• 从六个视角分析工具学习的优势：准确性、推理能力、实时知识、工具多样性、可扩展性与安全性。
• 识别并讨论新兴挑战，如安全漏洞、缺乏真实世界基准以及多模态支持有限。
• 提出未来研究方向，包括统一框架的开发、真实用户数据的收集以及多模态工具学习。

实验结果

研究问题

• RQ1 为何工具学习能有效提升大语言模型的能力？
• RQ2 如何将工具学习过程系统性地分解为可区分、可分析的阶段？
• RQ3 当前的工具学习基准和评估方法有哪些？它们在工作流各阶段的分布情况如何？
• RQ4 哪些主要挑战阻碍了工具增强型大语言模型的部署与可扩展性？
• RQ5 在大语言模型工具学习领域，哪些未来研究方向最具前景？

主要发现

• 通过接入外部、实时或计算密集型工具，工具集成显著减少了幻觉现象，并提升了事实准确性。
• 四阶段工作流——任务规划、工具选择、工具调用和响应生成——为实现工具学习提供了稳健且系统化的框架。
• 现有基准大多基于大语言模型生成的查询，而非真实用户交互，限制了其代表性与实际应用价值。
• 目前仍缺乏整合全部四个阶段的统一工具学习框架，导致解决方案零散且难以扩展。
• 安全性仍是关键挑战，因为大语言模型在工具使用中常缺乏安全意识，使系统易受潜在攻击。
• 尽管多模态工具学习具有巨大潜力，可借助视觉和听觉输入提升用户意图理解，但目前仍研究不足。