[논문 리뷰] When Large Language Models Meet Personalization: Perspectives of Challenges and Opportunities

Jing Chen, Zheng Liu외 10명|arXiv (Cornell University)|2023. 07. 31.

Topic Modeling인용 수 24

한 줄 요약

이 관점 논문은 대형 언어 모델(LLM)이 적극적인 사용자 참여, 도구 통합, 더 넓은 서비스 범위를 가능하게 함으로써 개인화를 어떻게 변화시킬 수 있는지 검토하면서, 도전 과제와 기회도 제시합니다. 또한 현재의 개인화 시스템, 새롭게 등장하는 LLM 능력, 도구 및 에이전트와의 통합 경로를 조사합니다.

ABSTRACT

The advent of large language models marks a revolutionary breakthrough in artificial intelligence. With the unprecedented scale of training and model parameters, the capability of large language models has been dramatically improved, leading to human-like performances in understanding, language synthesizing, and common-sense reasoning, etc. Such a major leap-forward in general AI capacity will change the pattern of how personalization is conducted. For one thing, it will reform the way of interaction between humans and personalization systems. Instead of being a passive medium of information filtering, large language models present the foundation for active user engagement. On top of such a new foundation, user requests can be proactively explored, and user's required information can be delivered in a natural and explainable way. For another thing, it will also considerably expand the scope of personalization, making it grow from the sole function of collecting personalized information to the compound function of providing personalized services. By leveraging large language models as general-purpose interface, the personalization systems may compile user requests into plans, calls the functions of external tools to execute the plans, and integrate the tools' outputs to complete the end-to-end personalization tasks. Today, large language models are still being developed, whereas the application in personalization is largely unexplored. Therefore, we consider it to be the right time to review the challenges in personalization and the opportunities to address them with LLMs. In particular, we dedicate this perspective paper to the discussion of the following aspects: the development and challenges for the existing personalization system, the newly emerged capabilities of large language models, and the potential ways of making use of large language models for personalization.

연구 동기 및 목표

• 기존의 개인화 시스템(추천 시스템, 개인화된 도움, 개인화된 검색)의 진화와 도전 과제를 평가한다.
• 활발한 사용자 참여와 계획 기반 도구 오케스트레이션을 통해 새롭게 등장하는 LLM 능력이 개인화를 어떻게 강화할 수 있는지 설명한다.
• 외부 도구 및 서비스와의 LLM 통합을 위한 엔드 투 엔드 개인화 경험을 가능하게 하는 잠재적 워크플로를 논의한다.
• 개인정보 보호 문제, 지식 신뢰성, 평가 필요성 등 한계와 위험을 식별하여 향후 연구를 안내한다.

제안 방법

• 문헌 및 관련 설문조사에서 개인화 기법과 LLM 능력의 발전을 합성한다.
• 추천 시스템을 위한 지식 기반 및 콘텐츠 해석기로서의 LLM의 역할을 분석한다.
• 개인화 작업을 위해 계획하고 외부 도구를 호출하며 출력을 종합하는 에이전트로서의 LLM 사용에 대해 논의한다.
• 지식 확장과 보완을 위한 LLM을 활용한 지식 그래프 보강을 검토한다.
• 개인화 파이프라인에서 도구 학습, 대화형 에이전트, 콘텐츠 제작자를 위한 통합 경로를 개략한다.

실험 결과

연구 질문

• RQ1 LLMs가 수동 필터링을 넘어 사용자와 개인화 시스템 간의 상호 작용 패턴을 어떻게 재정의할 수 있을까?
• RQ2 도구 통합 및 엔드 투 엔드 작업 실행을 통해 개인화를 확장하는 데 LLM이 어떤 기회를 제공하는가?
• RQ3 개인화에 LLM을 적용할 때 주요 도전 과제(개인정보 보호, 신뢰성, 평가)와 이를 해결할 방법은 무엇인가?
• RQ4 LLMs이 지식 기반 및 콘텐츠 해석기로서 추천 품질과 설명 가능성을 향상시키는 데 어떤 방식으로 기여할 수 있는가?

주요 결과

• LLMs는 개인화에서 능동적이고 자연어 기반의 사용자 상호 작용과 사용자 의도에 대한 적극적 탐색을 가능하게 한다.
• LLMs는 계획을 세우고 외부 도구를 호출하며 결과를 통합하여 엔드 투 엔드 개인화 작업을 완수하는 범용 인터페이스 역할을 할 수 있다.
• 지식 그래프 및 LLM이 검색한 텍스트 지식은 추천 시스템을 향상시킬 수 있지만 불완전성 및 잠재적 오정보(phantom knowledge) 문제에 직면한다.
• 사전 학습된 언어 모델은 추천 시스템의 콘텐츠 해석을 개선하고 희소한 피드백을 완화하는 데 도움을 주지만 지연(latency) 및 정렬(alignment) 문제를 동반한다.
• 도구 학습, 대화형 에이전트, 맞춤형 콘텐츠 제작은 LLM과 함께 개인화 기능을 확장하기 위한 유망한 통합 경로이다.