[논문 리뷰] User Modeling in the Era of Large Language Models: Current Research and Future Directions

Zhaoxuan Tan, Meng Jiang|arXiv (Cornell University)|2023. 12. 11.

Topic Modeling인용 수 5

한 줄 요약

이 논문은 대규모 언어 모델(Large Language Models, LLMs)의 사용자 모델링(Large Language Models in User Modeling, LLM-UM)에 대한 종합적인 설문 조사로, LLMs가 사용자 생성 콘텐츠(User-Generated Content, UGC) 이해와 상호작용 모델링을 어떻게 향상시키는지 분석한다. LLM-UM 접근 방식을 통합 유형별로 분류하여 LLMs를 향상자, 예측자, 제어자, 평가자로 나누며, 개인화, 교육, 이상 행동 탐지 분야에서의 응용을 제시하고 효율성, 개인화, 프라이버시와 관련된 주요 과제를 밝혀낸다.

ABSTRACT

User modeling (UM) aims to discover patterns or learn representations from user data about the characteristics of a specific user, such as profile, preference, and personality. The user models enable personalization and suspiciousness detection in many online applications such as recommendation, education, and healthcare. Two common types of user data are text and graph, as the data usually contain a large amount of user-generated content (UGC) and online interactions. The research of text and graph mining is developing rapidly, contributing many notable solutions in the past two decades. Recently, large language models (LLMs) have shown superior performance on generating, understanding, and even reasoning over text data. The approaches of user modeling have been equipped with LLMs and soon become outstanding. This article summarizes existing research about how and why LLMs are great tools of modeling and understanding UGC. Then it reviews a few categories of large language models for user modeling (LLM-UM) approaches that integrate the LLMs with text and graph-based methods in different ways. Then it introduces specific LLM-UM techniques for a variety of UM applications. Finally, it presents remaining challenges and future directions in the LLM-UM research. We maintain the reading list at: https://github.com/TamSiuhin/LLM-UM-Reading

연구 동기 및 목표

• 대규모 언어 모델(Large Language Models, LLMs)이 사용자 생성 콘텐츠(User-Generated Content, UGC)와 사용자 상호작용을 모델링하고 이해하는 데 매우 효과적인 이유를 분석하기 위해.
• LLMs를 텍스트 기반 및 그래프 기반 사용자 모델링 기법과 통합하는 기존의 LLM-UM 접근 방식을 분류하고 검토하기 위해.
• LLM-UM의 실생활 도메인, 예를 들어 추천, 교육, 헬스케어, 이상 사용자 탐지 분야에서의 응용을 검토하기 위해.
• LLM-UM 시스템의 효율적인 파인튜닝, 온라인 적응, 개인화된 배포와 관련된 핵심 과제를 식별하기 위해.
• 효율적 개인화, 모델 간 지식 전이, 매개변수 기반 프라이버시 보존에 중점을 둔 향후 연구 방향을 제안하기 위해.

제안 방법

• LLMs가 수행하는 역할에 따라 LLM-UM 접근 방식을 분류함: 향상자(표현 개선), 예측자(사용자 행동 예측), 제어자(시스템 결정 지시), 평가자(사용자 모델 품질 평가).
• 전통적인 텍스트 마이닝(예: BERT, word2vec)과 그래프 마이닝(예: GCNs, node2vec)을 결합한 통합 전략을 검토하여 UGC 및 상호작용 네트워크 모델링에 활용함.
• 검색 기반 프ompt 엔지니어링과 강화 학습 기반 선호도 정렬을 활용한 개인화된 LLM-UM을 위한 프레임워크 제안.
• 이산 프롬프트가 아닌 학습 가능한 매개변수를 통해 사용자 선호도를 인코딩하는 매개변수 기반 개인화 기법을 제안하여 컨텍스트 효율성을 향상함.
• 계산 비용을 줄이기 위해 효율적 파인튜닝을 위한 지식 정복과 모델 자르기 기법을 탐색함.
• 작은 현지 모델이 사용자 특정 지식을 학습하고 이를 큰 원격 LLM에 전달하는 크로스모델 지식 전이 기법을 제안하여 고품질 개인화 추론을 가능하게 함.

실험 결과

연구 질문

• RQ1 대규모 언어 모델(Large Language Models, LLMs)은 사용자 모델링에서 사용자 생성 콘텐츠(User-Generated Content, UGC)의 이해와 표현을 어떻게 향상시키는가?
• RQ2 텍스트 기반 및 그래프 기반 사용자 모델링 기법과 통합되었을 때 LLMs가 수행하는 고유한 역할은 무엇인가?
• RQ3 제한적이고 노이즈가 많은 데이터에서 동적인 사용자 선호도에 효율적으로 파인튜닝하고 적응할 수 있는 LLM-UM 시스템은 어떻게 설계될 수 있는가?
• RQ4 사용자 프라이버시와 계산 효율성을 유지하면서 개인화된 LLM-UM 시스템을 구현하기 위한 가장 효과적인 방법은 무엇인가?
• RQ5 매개변수 기반 개인화와 크로스모델 지식 전이는 LLM-UM 시스템의 확장성과 성능을 어떻게 향상시킬 수 있는가?

주요 결과

• LLMs는 요약 및 추론과 같은 작업에서 인간 성능을 초월하는 제로샷(Uncased) 이해 능력을 보이며 뛰어난 성능을 나타낸다.
• LLMs는 맥락 기반 임bedding를 통해 텍스트 및 그래프 데이터의 의미적 표현을 향상시켜 사용자 모델링에서 강력한 향상자 역할을 한다.
• LLMs를 그래프 기반 방법과 통합하면 사회적 네트워크 내 복잡한 사용자 상호작용과 시간적 동역학을 더 정확하게 모델링할 수 있다.
• 개인화된 프롬프트와 강화 학습 기반 정렬 기법은 유망한 성과를 보이지만, 컨텍스트 창 크기 제한과 계산 비용 문제에 직면해 있다.
• 매개변수 기반 개인화는 이산 프롬프트 기반 방법보다 사용자 선호도를 더 효율적으로 인코딩하여 컨텍스트 길이를 절약하고 일반화 성능을 향상시킨다.
• 크로스모델 지식 전이 기법은 작은 로컬 모델이 개인화된 지식을 학습하고 이를 큰 원격 LLM에 전달함으로써 자원 요구량을 줄이고 확장성을 향상시킨다.