[논문 리뷰] Fast-adapting and Privacy-preserving Federated Recommender System

Qinyong Wang, Hongzhi Yin외 4명|arXiv (Cornell University)|2021. 04. 02.

Privacy-Preserving Technologies in Data참고 문헌 92인용 수 15

한 줄 요약

이 논문은 중앙 집중식 데이터 저장 없이 사용자 기기에서 딥 뉴럴 네트워크를 훈련하는 빠르게 적응 가능한 개인정보 보호 기반 연합 추천 시스템인 PrivRec를 제안한다. 일阶 메타학습을 통해 빠른 개인화를 구현하고, 사용자 수준의 차별적 프라이버시를 두 단계 훈련 전략과 결합함으로써, PrivRec는 강력한 프라이버시 보장을 확보하면서도 높은 추천 정확도를 달성한다. 이는 시뮬레이션된 연합 학습 환경에서 두 개의 대규모 데이터셋을 대상으로 검증되었다.

ABSTRACT

In the mobile Internet era, the recommender system has become an irreplaceable tool to help users discover useful items, and thus alleviating the information overload problem. Recent deep neural network (DNN)-based recommender system research have made significant progress in improving prediction accuracy, which is largely attributed to the access to a large amount of users' personal data collected from users' devices and then centrally stored in the cloud server. However, as there are rising concerns around the globe on user privacy leakage in the online platform, the public is becoming anxious by such abuse of user privacy. Therefore, it is urgent and beneficial to develop a recommender system that can achieve both high prediction accuracy and high degree of user privacy protection. To this end, we propose a DNN-based recommendation model called PrivRec running on the decentralized federated learning (FL) environment, which ensures that a user's data never leaves his/her during the course of model training. On the other hand, to better embrace the data heterogeneity commonly existing in FL, we innovatively introduce a first-order meta-learning method that enables fast in-device personalization with only few data points. Furthermore, to defense from potential malicious participant that poses serious security threat to other users, we develop a user-level differentially private DP-PrivRec model so that it is unable to determine whether a particular user is present or not solely based on the trained model. Finally, we conduct extensive experiments on two large-scale datasets in a simulated FL environment, and the results validate the superiority of our proposed PrivRec and DP-PrivRec.

연구 동기 및 목표

• 클라우드 서버에 개인 데이터를 수집하고 저장하는 중앙집중식 추천 시스템에서 발생하는 사용자 프라이버시 우려를 해결한다.
• 사용자 간 데이터 규모와 품질이 극명하게 다름에 따라 발생하는 데이터 이질성 문제를 해결한다. 특히 신규 또는 비활성 사용자에게 영향을 미치는 문제를 해결한다.
• 모델 업데이트로부터 사용자 식별을 방지하기 위해 사용자 수준의 차별적 프라이버시를 도입함으로써 연합 학습의 보안성을 향상시킨다.
• 최소한의 현지 데이터로도 기기 내에서의 빠른 개인화를 가능하게 하는 방법을 개발하여, 콜드스타트 및 비활성 사용자 성능을 향상시킨다.
• 차별적 프라이버시에서 발생하는 성능 손실를 줄이기 위해 두 단계 훈련 전략을 도입함으로써 프라이버시 보호와 모델 정확도 사이의 균형을 확보한다.

제안 방법

• 사용자 데이터가 로컬 기기 내에 유지되고 오직 모델 업데이트만 서버에 공유되는 방식으로, 딥 뉴럴 네트워크 기반 추천 모델을 연합 학습을 통해 훈련하는 PrivRec를 제안한다.
• 일阶 메타학습을 통합하여, 몇 개의 현지 데이터 포인트만으로도 새로운 또는 비활성 사용자에 빠르게 적응할 수 있도록 하여 개인화 효율성을 향상시킨다.
• 모멘츠 애카운트 기반 기법을 통해 사용자 수준의 차별적 프라이버시(DP)를 구현하여 프라이버시 손실를 제한하고, 회원성 추론 공격을 방지한다.
• 두 단계 훈련 프로세스를 설계한다: 먼저 DP 없이 전역 모델을 사전 훈련하고, 이후에 DP를 적용하여 성능 저하를 줄인다.
• 훈련 중에 동일한 크기의 클라이언트 배치를 사용하여 분석적 프라이버시 회계를 가능하게 하고, 계산 효율성을 향상시킨다.
• 사용자 수준에서 차별적 프라이버시를 적용하여, 모델이 어떤 개인 사용자가 훈련에 참여했는지 여부를 드러내지 않도록 보장한다.

실험 결과

연구 질문

• RQ1 탈중앙화된 환경에서 사용자 프라이버시를 보장하면서도 높은 추천 정확도를 달성할 수 있는 연합 추천 시스템은 가능한가?
• RQ2 연합 학습 환경에서 최소한의 현지 데이터로도 새로운 또는 비활성 사용자에 대해 효과적으로 개인화할 수 있는 방법은 무엇인가?
• RQ3 사용자 수준의 차별적 프라이버시는 모델 성능에 어느 정도 악영향을 미치며, 이는 훈련 전략을 통해 완화될 수 있는가?
• RQ4 두 단계 훈련 전략은 연합 학습에서 차별적 프라이버시로 인해 발생하는 정확도 손실을 효과적으로 보완할 수 있는가?
• RQ5 사용자 데이터 분포의 이질성 문제는 어떻게 해결되어야 하며, 이를 통해 다양한 사용자 간에 공정하고 정확한 모델 수렴을 보장할 수 있는가?

주요 결과

• PrivRec는 기존의 연합 모델 대비 뛰어난 추천 정확도를 달성하며, 메타학습 덕분에 비활성 사용자 및 콜드스타트 사용자에 대한 성능 향상이 두드러진다.
• DP-PrivRec에 사용자 수준의 차별적 프라이버시를 통합함으로써 강력한 이론적 프라이버시 보장을 확보하였으며, 모멘츠 애카운트 기법을 통해 프라이버시 손실가 제한되었다.
• DP-PrivRec의 두 단계 훈련 전략은 차별적 프라이버시 업데이트에서 노이즈 주입으로 인한 성능 저하를 효과적으로 줄여 높은 추천 품질을 유지한다.
• 두 개의 대규모 데이터셋에 대한 실증 평가 결과, PrivRec와 DP-PrivRec 모두 기존의 연합 추천 기반 모델 대비 정확도와 프라이버시 보호 측면에서 뛰어난 성능을 보였다.
• 동일한 크기의 클라이언트 배치 사용은 분석적 프라이버시 회계를 가능하게 하여, 훈련 중 프라이버시 예산을 측정하고 제어할 수 있도록 했다.
• 제안된 방법은 데이터 이질성에 대해 뛰어난 내재적 저항성을 보이며, 다양한 데이터 규모와 품질을 가진 사용자 간에도 일관된 성능을 유지한다.