[论文解读] User Modeling in the Era of Large Language Models: Current Research and Future Directions

Zhaoxuan Tan, Meng Jiang|arXiv (Cornell University)|Dec 11, 2023

Topic Modeling被引用 5

一句话总结

本文对大语言模型（LLMs）在用户建模（LLM-UM）中的应用进行了全面综述，分析了LLMs如何提升对用户生成内容（UGC）的理解与交互建模。文章根据LLMs的集成类型对LLM-UM方法进行分类——作为增强器、预测器、控制器或评估器，并概述了其在个性化推荐、教育、可疑行为检测等领域的应用，同时指出了在效率、个性化和隐私保护方面面临的关键挑战。

ABSTRACT

User modeling (UM) aims to discover patterns or learn representations from user data about the characteristics of a specific user, such as profile, preference, and personality. The user models enable personalization and suspiciousness detection in many online applications such as recommendation, education, and healthcare. Two common types of user data are text and graph, as the data usually contain a large amount of user-generated content (UGC) and online interactions. The research of text and graph mining is developing rapidly, contributing many notable solutions in the past two decades. Recently, large language models (LLMs) have shown superior performance on generating, understanding, and even reasoning over text data. The approaches of user modeling have been equipped with LLMs and soon become outstanding. This article summarizes existing research about how and why LLMs are great tools of modeling and understanding UGC. Then it reviews a few categories of large language models for user modeling (LLM-UM) approaches that integrate the LLMs with text and graph-based methods in different ways. Then it introduces specific LLM-UM techniques for a variety of UM applications. Finally, it presents remaining challenges and future directions in the LLM-UM research. We maintain the reading list at: https://github.com/TamSiuhin/LLM-UM-Reading

研究动机与目标

• 分析大语言模型（LLMs）为何在用户生成内容（UGC）建模与理解方面表现出高度有效性。
• 对现有LLM-UM方法进行分类与综述，这些方法将LLMs与基于文本和图的用户建模技术相结合。
• 考察LLM-UM在推荐系统、教育、医疗健康以及可疑用户检测等现实应用场景中的实际应用。
• 识别LLM-UM系统在高效微调、在线适应以及个性化部署方面面临的关键挑战。
• 提出未来研究方向，重点关注高效个性化、跨模型知识迁移以及参数化隐私保护。

提出的方法

• 根据LLMs在系统中所扮演的角色对LLM-UM方法进行分类：增强器（提升表征能力）、预测器（预测用户行为）、控制器（指导系统决策）和评估器（评估用户模型质量）。
• 综述将LLMs与传统文本挖掘技术（如BERT、word2vec）和图挖掘技术（如GCNs、node2vec）结合的集成策略，用于建模UGC与交互网络。
• 提出一种基于检索增强提示工程与基于强化学习的偏好对齐的个性化LLM-UM框架。
• 引入参数化个性化技术，通过可学习参数而非离散提示来编码用户偏好，从而提升上下文效率。
• 探索知识蒸馏与模型剪枝技术，以实现LLM-UM系统的高效微调，降低计算成本。
• 提出跨模型知识迁移机制，即小型本地模型学习用户特定知识，并将其迁移至大型远程LLMs，以实现高质量的个性化推理。

实验结果

研究问题

• RQ1 大语言模型（LLMs）如何增强用户建模中对用户生成内容（UGC）的理解与表征？
• RQ2 当LLMs与基于文本和图的用户建模技术结合时，其在系统中扮演的特定角色是什么？
• RQ3 LLM-UM系统如何在数据有限且存在噪声的条件下，实现对动态用户偏好的高效微调与适应？
• RQ4 在保护用户隐私与计算效率的前提下，部署个性化LLM-UM系统的最有效方法是什么？
• RQ5 参数化个性化与跨模型知识迁移如何提升LLM-UM系统的可扩展性与性能？

主要发现

• LLMs在零样本理解UGC方面表现出卓越性能，在摘要生成与推理等任务中甚至超越人类表现。
• LLMs作为强大的增强器，在用户建模中通过上下文嵌入技术显著提升了文本与图数据的语义表征能力。
• LLMs与图方法的结合能够更准确地建模社交网络中复杂用户交互关系与时间动态特性。
• 个性化提示工程与基于强化学习的偏好对齐方法展现出潜力，但受限于上下文窗口大小与计算开销。
• 参数化个性化在高效编码用户偏好方面优于离散提示方法，更节省上下文长度并提升泛化能力。
• 跨模型知识迁移使小型本地模型能够学习个性化知识并将其传递至大型远程LLMs，从而降低资源需求并增强系统可扩展性。