[논문 리뷰] Intelligent Model Update Strategy for Sequential Recommendation

Zheqi Lv, Wenqiao Zhang외 3명|arXiv (Cornell University)|2023. 02. 14.

Recommender Systems and Techniques참고 문헌 47인용 수 7

한 줄 요약

이 논문은 DC-CDR 프레임워크 위에 구축된 Intelligent Device-Cloud Parameter Request Model (IDEAL)을 제안하며, Mis-Recommendation Detector (MRD)와 Distribution Mapper (DM)를 도입하여 디바이스-클라우드 연속 추천의 업데이트 빈도와 통신 예산의 균형을 맞춘다.

ABSTRACT

Modern online platforms are increasingly employing recommendation systems to address information overload and improve user engagement. There is an evolving paradigm in this research field that recommendation network learning occurs both on the cloud and on edges with knowledge transfer in between (i.e., edge-cloud collaboration). Recent works push this field further by enabling edge-specific context-aware adaptivity, where model parameters are updated in real-time based on incoming on-edge data. However, we argue that frequent data exchanges between the cloud and edges often lead to inefficiency and waste of communication/computation resources, as considerable parameter updates might be redundant. To investigate this problem, we introduce Intelligent Edge-Cloud Parameter Request Model, abbreviated as IntellectReq. IntellectReq is designed to operate on edge, evaluating the cost-benefit landscape of parameter requests with minimal computation and communication overhead. We formulate this as a novel learning task, aimed at the detection of out-of-distribution data, thereby fine-tuning adaptive communication strategies. Further, we employ statistical mapping techniques to convert real-time user behavior into a normal distribution, thereby employing multi-sample outputs to quantify the model's uncertainty and thus its generalization capabilities. Rigorous empirical validation on four widely-adopted benchmarks evaluates our approach, evidencing a marked improvement in the efficiency and generalizability of edge-cloud collaborative and dynamic recommendation systems.

연구 동기 및 목표

• 동적이고 클라우드 보조 파라미터 업데이트를 통해 기기 내 추천 모델의 일반화를 향상시키려는 동기를 제시한다.
• 실시간 데이터에 대응하도록 백본과 분류기를 분리하여 동적 계층을 맞춤화하는 DC-CDR 프레임워크를 개발한다.
• 클라우드 보조 파라미터 업데이트 필요 여부를 판단하는 MRD를 도입하여 불필요한 통신을 줄인다.
• Distribution Mapper를 도입하여 데이터의 의미 이해에서의 불확실성을 정량화하고 업데이트를 안내한다.

제안 방법

• 훈련 후 백본이 고정되고 분류기가 실시간 데이터에서 클라우드 모델에 의해 생성되는 DC-CDR 최적화를 정의한다.
• 모델을 정적 백본과 동적 계층으로 분할하여 기기상에서 개인화 및 일반화를 향상시킨다.
• 실시간 시퀀스에 기반해 온-디바이스 추론을 위한 동적 계층 매개변수를 생성하는 클라우드 제너레이터 모델을 사용한다.
• 정적 계층과 클라우드 구성요소를 순차적으로 최적화하는 대신 전역 이력 데이터를 사용하여 클라우드 제너레이터를 정적으로 함께 학습한다.
• 역사 데이터를 이용해 MRD 데이터 세트를 구성하고 두 단계의 학습 절차를 사용해 분류 손실 및 KL-발산 손실로 업데이트 필요 여부를 결정한다.
• Distribution Mapper를 사용해 데이터 의미 이해의 불확실성을 평가하고 파라미터 업데이트를 안내한다.]
• research_questions:[
• 예산 제약 하에서 추천 성능을 극대화하도록 디바이스-클라우드 협업을 어떻게 구성할 수 있는가?
• Mis-Recommendation Detector가 온-디바이스 모델에 대해 클라우드에서 제공된 매개변수를 요청해야 하는지 정확히 판단할 수 있는가?
• Distribution Mapper가 sequential 추천의 파라미터 업데이트 전략을 개선하기 위해 불확실성을 어떻게 정량화하는가?
• 온-디바이스 일반화를 위해 백본과 분류기를 정적 및 동적 계층으로 분리하는 이점은 무엇인가?
• 클라우드가 생성한 동적 매개변수를 온-디바이스의 정적 계층과 공동 최적화하는 어떤 학습 절차가 가능한가?

실험 결과

연구 질문

• RQ1 How can device-cloud collaboration be structured to maximize recommendation performance under budget constraints?
• RQ2 Can a Mis-Recommendation Detector accurately decide when cloud-supplied parameters should be requested for on-device models?
• RQ3 How does a Distribution Mapper quantify uncertainty to improve the parameter-update strategy in sequential recommendation?
• RQ4 What are the benefits of decoupling backbone and classifier into static and dynamic layers for on-device generalization?
• RQ5 What training procedure enables joint optimization of cloud-generated dynamic parameters with on-device static layers?

주요 결과

• DC-CDR은 클라우드 생성 매개변수로 안내되는 기기 내 동적 계층을 가능하게 하여 일반화를 향상시킬 수 있다.
• MRD와 DM은 예산 제약 하에서 추천 품질을 유지하면서 불필요한 통신을 줄이는 것을 제안한다.
• 프레임워크는 정적 백본과 동적 분류기 구성요소를 분리하여 개인화되면서도 전반적으로 정보를 공유하는 추천을 지원한다.
• MRD는 역사 데이터를 사용해 MRD 데이터를 구성하고 KL-발산 손실이 있는 두 단계 학습 절차를 가능하게 한다.
• DM은 의미 이해의 불확실성을 평가하여 파라미터 업데이트가 언제 발생할지 안내한다.
• 제안된 접근 방식은 다양한 디바이스-클라우드 예산 하에서 높은 통신 수익을 달성하는 것을 목표로 한다.