[논문 리뷰] ReFRS: Resource-efficient Federated Recommender System for Dynamic and Diversified User Preferences

Mubashir Imran, Hongzhi Yin외 4명|arXiv (Cornell University)|2022. 07. 28.

Privacy-Preserving Technologies in Data인용 수 6

한 줄 요약

ReFRS는 엣지 디바이스에서 경량 변분 오토에인코더와 의미론적 서버를 활용하여 동적인 다각도의 사용자 선호도를 처리하는 자원 효율적인 분산 추천 시스템을 제안한다. 이는 실제 데이터셋에서 뛰어난 정확도와 확장성을 달성하면서도 프라이버시를 보장하고 데이터 희소성 및 비i.i.d. 사용자 행동을 처리한다.

ABSTRACT

Owing to its nature of scalability and privacy by design, federated learning (FL) has received increasing interest in decentralized deep learning. FL has also facilitated recent research on upscaling and privatizing personalized recommendation services, using on-device data to learn recommender models locally. These models are then aggregated globally to obtain a more performant model, while maintaining data privacy. Typically, federated recommender systems (FRSs) do not consider the lack of resources and data availability at the end-devices. In addition, they assume that the interaction data between users and items is i.i.d. and stationary across end-devices, and that all local recommender models can be directly averaged without considering the user's behavioral diversity. However, in real scenarios, recommendations have to be made on end-devices with sparse interaction data and limited resources. Furthermore, users' preferences are heterogeneous and they frequently visit new items. This makes their personal preferences highly skewed, and the straightforwardly aggregated model is thus ill-posed for such non-i.i.d. data. In this paper, we propose Resource Efficient Federated Recommender System (ReFRS) to enable decentralized recommendation with dynamic and diversified user preferences. On the device side, ReFRS consists of a lightweight self-supervised local model built upon the variational autoencoder for learning a user's temporal preference from a sequence of interacted items. On the server side, ReFRS utilizes a semantic sampler to adaptively perform model aggregation within each identified user cluster. The clustering module operates in an asynchronous and dynamic manner to support efficient global model update and cope with shifting user interests. As a result, ReFRS achieves superior performance in terms of both accuracy and scalability, as demonstrated by comparative experiments.

연구 동기 및 목표

• 자원 제약이 있는 엣지 디바이스에서 희소하고 비i.i.i.d. 사용자 상호작용 데이터를 처리하는 데에 한계가 있는 기존 분산 추천 시스템(FRS)의 문제점을 해결하기 위해.
• 특히 콜드스타트 및 저자료 상황에서 시간이 지남에 따라 변화하는 동적인 다각도의 사용자 선호도를 모델링하기 위해.
• 사용자 행동 이질성에 기반하여 i.i.d. 데이터를 가정하지 않고 모델 집약을 개선하기 위해.
• 원시 사용자 데이터나 인구통계학적 정보를 공유하지 않는 확장 가능하고 프라이버시 보장형 시스템을 설계하기 위해.
• 클라이언트 모델의 파라미터 유사도를 기반으로 사용자를 클러스터링하여 서버에서 효율적이고 비동기적으로 업데이트할 수 있도록 하기 위해.

제안 방법

• 클라이언트 측에서 ReFRS는 순차적 상호작용 윈도우에서 시간적 및 맥락적 아이템 관계를 포착하기 위해 압축되고 해석 가능한 사용자 임베딩을 학습하기 위해 경량 변분 오토에인코더(VAE)를 사용한다.
• 클라이언트 모델은 메모리 효율적인 세션 단위로 상호작용를 처리하며, 제한된 장치 스토리지 관리를 위해 오래된 세션을 삭제한다.
• 서버 측에서 의미론적 샘플러는 모델 파라미터 분포를 기반으로 유사한 사용자 모델을 식별하여 원시 사용자 데이터에 접근하지 않고도 클러스터링을 가능하게 한다.
• 클러스터링 유닛은 사용자 관심사의 변화에 적응하기 위해 비동기적으로 그룹을 동적으로 업데이트한다.
• 모델 집약기는 각 클러스터 내에서 가중 평균을 수행하여 사용자 다양성을 고려함으로써 글로벌 모델 성능을 향상시킨다.
• 시스템은 파라미터 교환 중에 보다 높은 보안성을 확보하기 위해 차등 프라이버시와 동형 암호화를 지원한다.

실험 결과

연구 질문

• RQ1 자원 제약이 있는 엣지 디바이스에서 희소하고 비i.i.d. 사용자 상호작용 데이터를 효과적으로 처리할 수 있는 방법은 무엇인가?
• RQ2 민감한 인구통계학적 데이터에 의존하지 않고 유사한 선호도를 가진 사용자를 그룹화하는 확장 가능하고 프라이버시 보장형 방법은 무엇인가?
• RQ3 사용자 행동의 동적 및 이질성 특성을 반영하기 위해 분산 학습에서 모델 집약을 어떻게 개선할 수 있는가?
• RQ4 경량이고 자기지도 학습 기반의 클라이언트 모델은 최소한의 메모리 사용으로 시간적 및 맥락적 선호도를 효과적으로 포착할 수 있는가?
• RQ5 비중앙집중적 환경에서 클라이언트 모델의 의미론적 클러스터링이 수렴 속도와 추천 정확도에 어떤 영향을 미치는가?

주요 결과

• ReFRS는 실제 데이터셋에서 데이터 희소성 및 비i.i.d. 조건 하에서도 기준 분산 및 중심화된 모델보다 뛰어난 추천 정확도를 달성한다.
• VAE에서 유도된 압축된 잠재 표현을 사용함으로써 전체 아이템 임베딩을 저장하지 않음으로써 엣지 디바이스의 메모리 소비를 크게 줄였다.
• 클라이언트 모델의 의미론적 클러스터링은 유사한 행동 패턴을 가진 사용자를 그룹화하여 수렴 속도 향상과 글로벌 모델 성능 향상에 기여한다.
• 비동기 클러스터링 메커니즘은 시간이 지남에 따라 변화하는 사용자 선호도에 효과적으로 적응하여 높은 추천 품질을 유지한다.
• 동형 암호화의 사용은 개별 모델 파라미터를暴露하지 않고도 안전한 의미론적 그룹화를 지원하여 프라이버시를 강화한다.
• ReFRS는 기존 FRS 방법에 비해 콜드스타트 및 단일 사용자 클라이언트 시나리오를 더 잘 처리하여 실용적 구현에서 뛰어난 강건성을 보였다.