[논문 리뷰] Practical and Secure Federated Recommendation with Personalized Masks

Yang Liu, Zhang, Junxue외 5명|arXiv (Cornell University)|2021. 08. 18.

Privacy-Preserving Technologies in Data참고 문헌 34인용 수 6

한 줄 요약

이 논문은 사용자 평가 기밀성을 손상시키지 않고도 모델 정확도나 학습 효율성에 영향을 주지 않으면서 로컬에서 생성된 개인화된 마스크를 사용하여 개인 정보를 보호하는 새로운 페더레이티드 추천 프레임워크인 페더럴 매스킹 행렬 분해(FedMMF)를 제안한다. 안전한 평문 그래디언트 공유를 통해 잘 보호된 사용자에게 적용하고, 적응형 보안 집계와 결합함으로써 강력한 기밀성 보장을 달성하면서도 실제 벤치마크에서 표준 페더럴 행렬 분해 및 기존 기밀성 보장 방법보다 뛰어난 성능을 보인다.

ABSTRACT

Federated recommendation addresses the data silo and privacy problems altogether for recommender systems. Current federated recommender systems mainly utilize cryptographic or obfuscation methods to protect the original ratings from leakage. However, the former comes with extra communication and computation costs, and the latter damages model accuracy. Neither of them could simultaneously satisfy the real-time feedback and accurate personalization requirements of recommender systems. In this paper, we proposed federated masked matrix factorization (FedMMF) to protect the data privacy in federated recommender systems without sacrificing efficiency and effectiveness. In more details, we introduce the new idea of personalized mask generated only from local data and apply it in FedMMF. On the one hand, personalized mask offers protection for participants' private data without effectiveness loss. On the other hand, combined with the adaptive secure aggregation protocol, personalized mask could further improve efficiency. Theoretically, we provide security analysis for personalized mask. Empirically, we also show the superiority of the designed model on different real-world data sets.

연구 동기 및 목표

• 페더럴 추천 시스템에서 기밀성, 효율성, 효과성의 균형을 맞추는 데 있어 핵심 과제를 해결하기 위해.
• 기존 암호화 및 왜곡 기반 방법에서 발견되는 기밀성 보호와 모델 성능 사이의 상충 관계를 제거하기 위해.
• 실시간 개인화 추천을 가능하게 하는 경량이며 효율적이고 기밀성을 보장하는 메커니즘을 설계하기 위해.
• 기본적으로 잘 보호된 사용자들에 대해 평문 그래디언트 공유를 허용함으로써, 보다 안전하고 고성능의 모델 집계를 가능하게 하기 위해.

제안 방법

• 로컬 데이터에서만 생성된 개인화된 마스크를 도입하여 원본 평가에 적용함으로써 기밀 정보를 은폐하는 마스킹된 평가를 생성한다.
• 마스킹된 평가를 기반으로 훈련되는 페더럴 행렬 분해 프레임워크를 활용하여, 모델의 유용성을 유지하면서도 기밀성을 향상시킨다.
• 고도로 기밀성이 보장된 사용자(보안 그룹)와 다른 사용자 간을 구분하는 적응형 보안 집계 프로토콜을 설계하여, 보안 그룹에 속한 사용자에게는 평문 그래디언트 공유를 허용한다.
• 사용자별 데이터 패턴에 기반하여 개인화된 마스크를 학습하는 비공개 로컬 모델을 사용하여 마스크가 데이터에 의존적이고 복원 불가능하도록 보장한다.
• 다양한 마스크 유형을 통해 여러 약한 학습기(weak learners)를 조합하는 앙상블 학습 원리를 적용함으로써 일반화 능력과 모델 효과성을 향상시킨다.
• 기본적인 복구 공격 및 랭킹 공격를 사용하여 기밀성 유출를 평가하고, 마스킹된 평가가 데이터 복원 위험을 크게 감소시킴을 입증한다.

실험 결과

연구 질문

• RQ1 개인화된 마스크를 사용하여 페더럴 추천 시스템에서 사용자 평가 데이터를 기밀성 보호 없이도 정확도 저하 없이 보호할 수 있는가?
• RQ2 개인화된 마스크의 사용이, 특히 잘 보호된 사용자들에 대해 평문 그래디언트 공유를 통해 효율적인 모델 집계를 가능하게 하는가?
• RQ3 복구 및 랭킹 공격와 같은 현실적인 공격 시나리오에서 제안된 방법이 기밀성 유출를 얼마나 효과적으로 방지하는가?
• RQ4 개인화된 마스크의 통합이 표준 페더럴 행렬 분해를 초월해 모델 성능을 향상시킬 수 있는가?

주요 결과

• FedMMF는 표준 페더럴 행렬 분해(FedMF)와 비교해 성능 손실가 없이, 세 가지 실세계 데이터셋에서 RMSE 및 MAE 값이 동일하거나 이를 초월한다.
• FedMMF의 이차 및 고차 개인화 마스크 변형은 항상 로컬 및 페더럴 컨텍스트 모델보다 뛰어나며, 앙상블 학습과 특징 상호작용의 이점을 입증한다.
• 기본적인 복구 공격 상황에서, 마스킹된 평가의 복구 비율은 중간 수준의 오차에서도 여전히 0.5 이상을 유지하여 데이터 복원에 대한 강력한 저항성을 보였다.
• 랭킹 공격 결과, 상위 1개 및 상위 2개 선택에 대한 히트 비율이 0.5 이하로 나타나, 높은 평가를 받은 항목의 상대적 순위가 잘 보호된 것으로 입증되었다.
• 많은 수의 사용자가 '보안 그룹'에 포함되었으며, 이는 마스킹된 평가가 공격에 저항성이 있었음을 의미한다. 이로 인해 평문 그래디언트 공유가 가능해졌고, 통신 및 계산 비용이 감소했다.
• 적응형 보안 집계 프로토콜은 강력한 로컬 기밀성 보호를 갖춘 사용자들로부터 효율적인 암호화되지 않은 업데이트를 허용함으로써 전체 시스템 오버헤드를 감소시켰다.