[论文解读] A Bibliometric Review of Large Language Models Research from 2017 to 2023

Lizhou Fan, Lingyao Li+4 more|arXiv (Cornell University)|Apr 3, 2023

Topic Modeling被引用 49

一句话总结

对2017–2023年间的LLM研究进行计量与话语分析，汇总超过5,000篇文献，以绘制趋势、范式和应用。

ABSTRACT

Large language models (LLMs) are a class of language models that have demonstrated outstanding performance across a range of natural language processing (NLP) tasks and have become a highly sought-after research area, because of their ability to generate human-like language and their potential to revolutionize science and technology. In this study, we conduct bibliometric and discourse analyses of scholarly literature on LLMs. Synthesizing over 5,000 publications, this paper serves as a roadmap for researchers, practitioners, and policymakers to navigate the current landscape of LLMs research. We present the research trends from 2017 to early 2023, identifying patterns in research paradigms and collaborations. We start with analyzing the core algorithm developments and NLP tasks that are fundamental in LLMs research. We then investigate the applications of LLMs in various fields and domains including medicine, engineering, social science, and humanities. Our review also reveals the dynamic, fast-paced evolution of LLMs research. Overall, this paper offers valuable insights into the current state, impact, and potential of LLMs research and its applications.

研究动机与目标

• 描绘从2017年到2023年初，LLMs 研究的演变与图景。
• 识别推动 LLMs 研究的核心算法发展与基础的自然语言处理任务。
• 考察 LLMs 在医疗、工程、社会科学和人文学科等领域的应用。
• 绘制合作关系、研究范式和话语模式的地图，为研究人员、从业者和决策者提供信息。

提出的方法

• 对关于 LLMs 的超过 5,000 篇文献的语料库进行计量分析。
• 进行话语分析，揭示术语、主题与叙述框架中的模式。
• 综合核心算法、NLP 任务和应用领域的趋势。
• 汇总见解，提供关于 LLMs 研究的现状、影响和潜力的路线图。

实验结果

研究问题

• RQ1 2017年至2023年初，LLMs 的主导研究范式和算法发展是什么？
• RQ2 LLMs 如何在诸如医学、工程、社会科学和人文学科等不同领域中得到应用？
• RQ3 LLMs 文献中的协作模式与话语模式有哪些？
• RQ4 根据计量与话语分析，LLMs 研究的轨迹与未来潜力是什么？

主要发现

• LLMs 研究在2017年至2023年初呈现动态且快速演变。
• 核心算法发展和基础的 NLP 任务仍然是 LLMs 研究的核心。
• LLMs 的应用覆盖包括医学、工程、社会科学与人文学科等多领域。
• 本研究强调了协作与话语模式塑造 LLMs 领域格局的模式。
• 该工作为研究人员、从业者和政策制定者提供路线图。