[논문 리뷰] Integrating Large Language Models into Recommendation via Mutual Augmentation and Adaptive Aggregation

Sichun Luo, Yuxuan Yao외 10명|arXiv (Cornell University)|2024. 01. 25.

Recommender Systems and Techniques인용 수 4

한 줄 요약

이 논문은 상호 데이터 및 프롬프트 증강을 통해 기존의 협업/순차 모델과 대규모 언어 모델(LLM)을 함께 활용하고 예측을 적응형으로 집계함으로써 추천 성능을 향상시키는 모델에 종속되지 않는 프레임워크인 Llama4Rec을 제안한다. 세 개의 실세계 데이터셋에서의 실험 결과는 강력한 기준 모델들에 비해 일관되고 뚜렷한 성능 향상을 보이며, 전통적 추천 방법과 LLM 기반 추천 접근법 간의 상호보완적 통합의 효과를 입증한다.

ABSTRACT

Conventional recommendation methods have achieved notable advancements by harnessing collaborative or sequential information from user behavior. Recently, large language models (LLMs) have gained prominence for their capabilities in understanding and reasoning over textual semantics, and have found utility in various domains, including recommendation. Conventional recommendation methods and LLMs each have their strengths and weaknesses. While conventional methods excel at mining collaborative information and modeling sequential behavior, they struggle with data sparsity and the long-tail problem. LLMs, on the other hand, are proficient at utilizing rich textual contexts but face challenges in mining collaborative or sequential information. Despite their individual successes, there is a significant gap in leveraging their combined potential to enhance recommendation performance. In this paper, we introduce a general and model-agnostic framework known as extbf{L}arge extbf{la}nguage model with extbf{m}utual augmentation and extbf{a}daptive aggregation for extbf{Rec}ommendation ( extbf{Llama4Rec}). Llama4Rec synergistically combines conventional and LLM-based recommendation models. Llama4Rec proposes data augmentation and prompt augmentation strategies tailored to enhance the conventional model and LLM respectively. An adaptive aggregation module is adopted to combine the predictions of both kinds of models to refine the final recommendation results. Empirical studies on three real-world datasets validate the superiority of Llama4Rec, demonstrating its consistent outperformance of baseline methods and significant improvements in recommendation performance.

연구 동기 및 목표

• 기존의 협업/순차 모델에 LLM 기반 데이터 증강을 통해 데이터 희소성 문제와 장미세대 문제를 해결함으로써 추천 시스템의 성능을 향상시키는 것.
• 프롬프트 엔지니어링을 통해 협업 및 순차적 신호를 주입함으로써 LLM의 사용자-아이템 상호작용에 대한 인식 부족 문제를 해결하고 LLM 기반 추천 성능을 향상시키는 것.
• 단방향 통합이 아닌 양방향 강화를 가능하게 하는 일반적이고 모델에 종속되지 않는 프레임워크를 개발하여 기존 모델과 LLM 간의 상호 보완적 통합을 실현하는 것.
• 양쪽 모델 유형의 예측을 적응형 집계를 통해 결과 수준에서 융합하여 최종 추천 품질을 최적화하는 것.
• 단일 통합 프레임워크 내에서 데이터 수준, 프롬프트 수준, 결과 수준의 향상 요소를 모두 통합하는 종합적인 솔루션을 제공하는 것.

제안 방법

• Llama4Rec는 기존 추천 모델을 위한 합성 사용자-아이템 상호작용 데이터를 생성하기 위해 데이터 증강을 적용하여 모델의 강건성과 일반화 능력을 향상시킨다.
• LLM 프롬프트에 사용자 행동 시퀀스와 아이템 메타데이터를 통합하여 프롬프트 증강을 적용함으로써 LLM이 협업 및 순차적 패턴을 고려한 추론을 수행할 수 있도록 한다.
• 예측의 신뢰도 및 신뢰성 점수에 기반해 기존 모델과 LLM의 예측을 동적으로 통합하는 학습 가능한 적응형 집계 모듈을 사용한다.
• 이 방법은 모델에 종속되지 않으며, LightGCN 및 BERT 기반 순차 모델과 같은 다양한 백본 모델과 통합이 가능하다.
• LLaMA-2 모델을 태스크 특화 프롬프트를 사용해 지시 미세조정하여 LLM이 추천 목표에 맞게 조정되도록 한다.
• 학습 과정에서는 증강된 지시 데이터셋을 기반으로 LLM을 미세조정하며, 모델 크기와 데이터 스케일에 맞게 하이퍼파rameter를 최적화한다.

실험 결과

연구 질문

• RQ1 기존 추천 모델과 LLM 간의 상호 증강이 다양한 추천 작업에서 일관된 성능 향상을 이끌 수 있는가?
• RQ2 프롬프트 엔지니어링을 통한 협업 및 순차적 신호 통합이 LLM 기반 추천 품질을 얼마나 향상시키는가?
• RQ3 기존 모델과 LLM 기반 모델의 예측을 적응형으로 집계하는 방식이 개별 모델이나 단순 평균화 전략보다 얼마나 뛰어난가?
• RQ4 모델 크기와 지시 데이터 스케일이 프레임워크 내 LLM 컴포onent의 성능과 효율성에 미치는 영향은 어느 정도인가?
• RQ5 제안된 프레임워크는 작업에 특화된 아키텍처 수정 없이 다양한 데이터셋과 추천 시나리오에 일반화 가능한가?

주요 결과

• Llama4Rec는 Bookcrossing, ML-1M, Yelp을 포함한 세 개의 실세계 데이터셋에서 강력한 기준 모델들에 비해 뚜렷하고 일관된 성능 향상을 달성하여 일반화 가능성의 우수성을 입증한다.
• LLaMA-2 (13B) 모델이 7B 버전보다 우수한 성능을 보였지만, 성능 향상 폭은 미미하여 모델 크기가 커질수록 수익 감소 현상이 나타남을 시사한다.
• 지시 미세조정 예제 수를 2.5K에서 12.5K로 늘일 경우 성능 향상이 눈에 띄게 발생하며, 특히 직접 추천 태스크에서 두드러짐을 확인하여 지시 미세조정에서 데이터 스케일의 중요성을 강조한다.
• 16개의 A800 GPU를 사용해 LLaMA-2 7B 모델을 약 25K개의 지시 문장으로 훈련하는 데 약 1.94시간이 소요되었으며, 인퍼런스 시간은 아이템당 약 0.059초로 높은 계산 비용을 유발함을 확인했다.
• 적응형 집계 모듈은 양쪽 모델 유형의 예측을 효과적으로 융합하여 개별 모델이나 단순 평균화 전략보다 뛰어난 성능을 달성한다.
• 높은 계산 요구량에도 불구하고, 효율적 인퍼런스 및 병렬 처리 기술의 발전을 고려할 때 향후 배포 가능성에 대해 긍정적인 전망을 제시한다.