[논문 리뷰] Practical Privacy Preserving POI Recommendation

Chaochao Chen, Jun Zhou외 5명|arXiv (Cornell University)|2020. 03. 05.

Privacy-Preserving Technologies in Data참고 문헌 66인용 수 4

한 줄 요약

이 논문은 사용자의 개인 데이터와 선형 모델을 기기 내부에 유지하면서도 로컬 차별적 프라이버시를 활용해 왜곡된 사용자-POI 상호작용을 안전하게 수집하여 동적 POI 인기 특징을 생성하는 프라이버시 보장형 POI 추천 프레임워크인 PriRec을 제안한다. 이 프레임워크는 사용자 측 선형 모델에 대해 보안 분산 경사 하강법을, 특징 상호작용 모델에 대해 페더레이티드 러닝에서의 보안 집계를 결합하여 중앙집중형 FM과 비교해 유사하거나 더 높은 정확도를 달성하면서도 강력한 프라이버시 보장을 확보한다.

ABSTRACT

Point-of-Interest (POI) recommendation has been extensively studied and successfully applied in industry recently. However, most existing approaches build centralized models on the basis of collecting users' data. Both private data and models are held by the recommender, which causes serious privacy concerns. In this paper, we propose a novel Privacy preserving POI Recommendation (PriRec) framework. First, to protect data privacy, users' private data (features and actions) are kept on their own side, e.g., Cellphone or Pad. Meanwhile, the public data need to be accessed by all the users are kept by the recommender to reduce the storage costs of users' devices. Those public data include: (1) static data only related to the status of POI, such as POI categories, and (2) dynamic data depend on user-POI actions such as visited counts. The dynamic data could be sensitive, and we develop local differential privacy techniques to release such data to public with privacy guarantees. Second, PriRec follows the representations of Factorization Machine (FM) that consists of linear model and the feature interaction model. To protect the model privacy, the linear models are saved on users' side, and we propose a secure decentralized gradient descent protocol for users to learn it collaboratively. The feature interaction model is kept by the recommender since there is no privacy risk, and we adopt secure aggregation strategy in federated learning paradigm to learn it. To this end, PriRec keeps users' private raw data and models in users' own hands, and protects user privacy to a large extent. We apply PriRec in real-world datasets, and comprehensive experiments demonstrate that, compared with FM, PriRec achieves comparable or even better recommendation accuracy.

연구 동기 및 목표

• 추천 시스템이 사용자 데이터와 모델을 모두 중앙에서 보관하는 중앙집중형 POI 추천 시스템에서 발생하는 프라이버시 위험을 해결하기 위해.
• 개인 정보 노출을 최소화하면서도 확장성, 효율성, 프라이버시 보장을 확보하는 추천 프레임워크를 설계하기 위해.
• 민감한 데이터와 모델을 분산화하더라도 높은 추천 정확도를 유지하여 실세계 시스템에 실용적으로 구현 가능하게 하기 위해.
• 사용자 프라이버시를 해치지 않으면서도 왜곡된 사용자 상호작용에서 동적 POI 인기 특징을 생성할 수 있도록 하기 위해.
• 개인화된 추천을 유지하면서도 개인의 선호도를 보호하는 보안적이고 효율적인 공동 학습 메커니즘을 개발하기 위해.

제안 방법

• 사용자의 개인 데이터(프로필 및 행동)는 기기 내부에 로컬로 저장되어 중앙 집중적 수집을 방지한다.
• 공개 POI 데이터—정적(예: 카테고리) 및 동적(예: 방문 횟수)—는 추천 시스템에서 유지되어 클라이언트 측 저장소 부담을 줄인다.
• 사용자-POI 상호작용 데이터는 전송 전에 로컬 차별적 프라이버시(LDP)를 적용하여 왜곡되며, 이는 동적 특징의 프라이버시 보장된 집계를 가능하게 한다.
• 추천 모델은 인파워터레이션 머신(FM) 기반으로, 선형 성분은 보안 분산 경사 하강법 프로토콜을 통해 기기 내부에서 저장 및 학습된다.
• 특징 상호작용 성분은 페더레이티드 러닝 환경에서 보안 집계를 통해 중앙에서 학습되어 모델 프라이버시를 유지한다.
• 하이브리드 아키텍처는 데이터와 모델 소유권을 분리한다: 개인 데이터와 선형 모델은 사용자에게 유지되며, 공유되는 특징 상호작용은 서버에서 보안적으로 학습된다.

실험 결과

연구 질문

• RQ1 중앙집중형 FM 모델과 비교해도 추천 정확도를 손상시키지 않으면서도 사용자 데이터와 모델 프라이버시를 보장할 수 있는 POI 추천 시스템은 가능한가?
• RQ2 로컬 차별적 프라이버시를 확보하면서도 왜곡된 사용자 상호작용에서 동적 POI 인기 특징을 어떻게 생성할 수 있는가?
• RQ3 보안 분산 경사 하강법을 통해 중앙 집중화 없이도 사용자 맞춤형 선형 모델의 효과적인 공동 학습이 가능한가?
• RQ4 제안된 PriRec 프레임워크는 강력한 프라이버시 보장을 확보하면서도 중앙집중형 FM 모델과 유사하거나 더 높은 성능을 달성할 수 있는가?
• RQ5 제한된 온라인 기기와 통신 환경에서도 PriRec 프레임워크는 실제로 얼마나 효율적이고 확장 가능한가?

주요 결과

• K=5일 때 Koubei80 데이터셋에서 PriRec는 FM보다 AUC가 6.30% 높게 기록하여 분산화된 환경임에도 불구하고 뛰어난 정확도 또는 동등한 성능을 확보했다.
• Koubei90 데이터셋에서 K=5일 때 LDP로 생성된 동적 POI 인기 특징을 통합한 PriRec는 동적 특징이 없는 PriRec- 대비 AUC가 2.67% 향상되었다.
• Foursquare80에서 PriRec는 Koubei80보다 더 빠른 수렴 속도를 보였는데, 이는 특징 수가 적어(6대비 89) 저차원 데이터에서 학습 속도가 더 빠르기 때문이다.
• 최대 이웃 수가 0.04% 이하(85,466명 중 30명)일 때 성능이 안정화되어, 희박한 온라인 환경에서도 확장성과 실용성을 입증했다.
• 학습 시간은 데이터 크기와 선형적으로 증가하여 PriRec의 효율성과 대규모 배포 가능성에 대한 확인이 되었다.
• 원시 사용자 데이터와 선형 모델을 기기 내부에 유지하고 암호화 기법을 활용해 보안 집계를 수행함으로써 강력한 프라이버시 보장을 유지한다.