[논문 리뷰] A Novel Privacy-Preserved Recommender System Framework based on Federated Learning

Jiangcheng Qin, Baisong Liu|arXiv (Cornell University)|2020. 11. 11.

Privacy-Preserving Technologies in Data참고 문헌 56인용 수 23

한 줄 요약

이 논문은 페더레이티드 러닝 기반으로, 사용자 데이터를 중앙집중화하지 않고도 협업 학습을 가능하게 하는 새로운 프라이버시 보장 추천 시스템 프레임워크(PPEFS)를 제안한다. 글로벌 리콜 모델과 로컬 랭킹 모델을 분리함으로써 사용자 프라이버시를 보호하고, 통신 비용을 줄이며, 데이터 보호 규정을 준수하면서도 추천 정확도를 유지한다.

ABSTRACT

Recommender System (RS) is currently an effective way to solve information overload. To meet users' next click behavior, RS needs to collect users' personal information and behavior to achieve a comprehensive and profound user preference perception. However, these centrally collected data are privacy-sensitive, and any leakage may cause severe problems to both users and service providers. This paper proposed a novel privacy-preserved recommender system framework (PPRSF), through the application of federated learning paradigm, to enable the recommendation algorithm to be trained and carry out inference without centrally collecting users' private data. The PPRSF not only able to reduces the privacy leakage risk, satisfies legal and regulatory requirements but also allows various recommendation algorithms to be applied.

연구 동기 및 목표

• 사용자 데이터를 중앙집중적으로 수집하지 않음으로써 추천 시스템의 핵심적 프라이버시-개인화 트레이드오프 문제를 해결하고자 한다.
• GDPR, CCPA 및 기타 데이터 보호 규정을 준수하는 확장 가능한 프라이버시 보장 프레임워크를 설계하고자 한다.
• 사용자 데이터 기밀성이나 시스템 효율성에 손상을 주지 않으면서도 효과적인 추천 성능을 확보하고자 한다.
• 안전한 분산 학습 아키텍처 내에서 다양한 추천 알고리즘을 지원하고자 한다.

제안 방법

• 4층 계층형 프레임워크를 제안: 리콜(서버), 랭킹(클라이언트), 재랭킹(서버), 서비스(클라이언트) 레이어.
• 모델 학습을 분리: 글로벌 리콜 모델은 공개 데이터를 사용해 서버에서 학습되고, 로컬 랭킹 모델은 비공개 데이터를 사용해 클라이언트에서 학습된다.
• FedAvg 유사 평균화를 활용한 페더레이티드 러닝 적용: 클라이언트는 자신의 비공개 데이터로 국지적으로 학습하고, 모델 업데이트를 서버에 업로드한다.
• 이중 단계 프로세스 적용: 서버는 사전에 후보 아이템을 필터링하여 클라이언트에 전송하고, 클라이언트는 이를 자신의 비공개 데이터를 사용해 현지에서 랭킹한다.
• 서버에서 글로벌 모델 평균화를 수행하여 글로벌 랭킹 모델을 업데이트하고, 이를 다시 클라이언트에 배포하여 국지 최적화를 수행한다.
• 공개 데이터(예: 아이템 특성)와 비공개 데이터(예: 사용자 행동)를 분리하여, 민감하지 않은 데이터만 공유함을 보장한다.

실험 결과

연구 질문

• RQ1 사용자 데이터를 중앙에 수집하지 않으면서도 높은 개인화 정확도를 유지할 수 있는 추천 시스템은 어떻게 설계될 수 있는가?
• RQ2 페더레이티드 러닝은 다층 추천 파이프라인에 효과적으로 적용되어 프라이버시를 보장할 수 있는가?
• RQ3 제안된 프레임워크는 프라이버시, 통신 효율성, 추천 성능 사이에서 어떻게 균형을 이룰 수 있는가?
• RQ4 GDPR 및 CCPA와 같은 엄격한 데이터 보호 규정을 얼마나 잘 준수할 수 있는가?
• RQ5 대규모 분산형 프라이버시 보장 추천을 위해 필요한 아키텍처적 및 학습 전략은 무엇인가?

주요 결과

• PPRSF는 비공개 사용자 데이터를 중앙에 집중화하지 않고도 학습 및 추론을 가능하게 하여 프라이버시 泄露 위험을 크게 줄였다.
• 모듈러 설계 덕분에 프레임워크는 콘텐츠 기반, 협업 필터링, 신경망 모델 등 다양한 추천 알고리즘을 지원한다.
• 서버에서 사전에 후보 아이템을 필터링함으로써 통신 비용을 감소시켰다.
• 페더럴 어웨이징을 통한 반복적 글로벌 모델 평균화를 통해 추천 정확도를 유지하였다.
• 데이터가 디바이스에 그대로 유지되고 서버 또는 다른 클라이언트와 공유되지 않음으로써 주요 개인정보 보호 규정 준수를 지원한다.
• 중앙 집중식 데이터 저장 및 접근을 제거함으로써 내부 및 외부 프라이버시 위협을 효과적으로 완화하였다.