[논문 리뷰] A Survey on Federated Recommendation Systems

Zehua Sun, Yonghui Xu외 6명|arXiv (Cornell University)|2022. 12. 27.

Privacy-Preserving Technologies in Data인용 수 10

한 줄 요약

이 종합적 서베이는 연합 추천 시스템(FedRS)에 대한 포괄적인 개요를 제공하며, 개인정보 보호 메커니즘, 오염 공격과 같은 보안 위협, 데이터 및 시스템 이질성과 통신 오버헤드와 같은 도전 과제를 분석한다. 기존 솔루션, 벤치마크, 실세계 응용 사례를 평가하여, 개인정보 인식형, 확장 가능하고 견고한 연합 추천 시스템을 위한 향후 연구 방향도 제시한다.

ABSTRACT

Federated learning has recently been applied to recommendation systems to protect user privacy. In federated learning settings, recommendation systems can train recommendation models only collecting the intermediate parameters instead of the real user data, which greatly enhances the user privacy. Beside, federated recommendation systems enable to collaborate with other data platforms to improve recommended model performance while meeting the regulation and privacy constraints. However, federated recommendation systems faces many new challenges such as privacy, security, heterogeneity and communication costs. While significant research has been conducted in these areas, gaps in the surveying literature still exist. In this survey, we-(1) summarize some common privacy mechanisms used in federated recommendation systems and discuss the advantages and limitations of each mechanism; (2) review some robust aggregation strategies and several novel attacks against security; (3) summarize some approaches to address heterogeneity and communication costs problems; (4)introduce some open source platforms that can be used to build federated recommendation systems; (5) present some prospective research directions in the future. This survey can guide researchers and practitioners understand the research progress in these areas.

연구 동기 및 목표

• 차등적 비밀유지 및 안전한 집계와 같은 연합 추천 시스템 내 개인정보 보호 메커니즘을 체계적으로 검토하기.
• 모델 오염 공격과 같은 새로운 보안 위협을 분석하고 기존 방어 전략을 평가하기.
• 연합 추천 환경에서 발생하는 통계적, 시스템적, 개인정보 이질성과 관련된 과제 해결하기.
• 대규모 연합 추천 학습 및 추론에서 발생하는 통신 비용 문제 분석하기.
• 열려 있는 연구 문제를 식별하고 연합 추천 시스템을 발전시키기 위한 향후 방향 제안하기.

제안 방법

• FedRS에서의 차등적 비밀유지, 안전한 집계, 동형 암호화와 같은 개인정보 보호 메커니즘을 분류하고 비교하기.
• 개인정보 침해 가능 기울기 유추 및 모델 오염 공격과 같은 새로운 공격 벡터를 조사하고, 탐지 및 방어 기법 평가하기.
• 개인화된 연합 학습 및 적응형 클라이언트 선택을 포함한 기법을 통해 통계적 및 시스템 이질성 완화 분석하기.
• 모델 정량화, 희소화, 지식 정교화와 같은 통신 효율적인 방법을 연합 추천에 적용하여 평가하기.
• 중앙 서버 의존도를 제거하기 위해 스웜 러닝 및 가십 기반 연합 학습과 같은 탈중앙화 대안 조사하기.
• 다중 조직 간 연합 추천 환경에서 클라이언트 기여도를 공정하게 평가하고 보상하기 위한 인centive 메커니즘 검토하기.

Figure 1: Communication architecture of FedRS.

실험 결과

연구 질문

• RQ1 연합 추천 시스템에서 가장 효과적인 개인정보 보호 메커니즘은 무엇이며, 그들의 상호 상충 관계는 무엇인가요?
• RQ2 오염 공격는 어떻게 연합 추천 시스템을 약화시키며, 이를 효과적으로 방어할 수 있는 전략은 무엇인가요?
• RQ3 FedRS에서 데이터, 시스템 자원, 개인정보 선호도의 이질성은 어느 정도까지 완화될 수 있나요?
• RQ4 대규모 연합 추천 학습 및 추론에서 통신 비용을 줄이기 위한 기법은 무엇인가요?
• RQ5 확장 가능하고, 개인정보 보호 기능이 있으며, 안정적인 연합 추천 시스템을 구축하기 위한 주요 과제와 열려 있는 연구 방향은 무엇인가요?

주요 결과

• 차등적 비밀유지와 안전한 집계는 강력한 개인정보 보호 보장을 제공하지만, 노이즈 주입으로 인해 추천 정확도가 떨어지는 경우가 많다.
• 일반 사용자 행동을 모방하는 오염 공격는 특히 탐지하기 어려우며, 효과적인 방어가 없으면 모델 성능을 심각하게 악화시킬 수 있다.
• 개인화된 연합 학습과 적응형 클라이언트 선택은 통계적 및 시스템 이질성 하에서 성능 향상을 이끌지만, 편향을 유발하지 않도록 신중한 설계가 필요하다.
• 통신 비용은 여전히 주요 성능 저하 요인이며, 특히 수백만 개의 아이템을 다루는 시스템에서는 bandwidth 감소를 위해 모델 압축 및 지식 정교화 기법이 도움이 된다.
• 스웜 러닝 및 가십 기반 학습과 같은 탈중앙화 프레임워크는 중앙 서버 의존도를 줄이고 프라이버시를 향상시키지만, 수렴성 및 조율 문제 등 새로운 과제를 야기한다.
• 다중 조직 간 협업을 위해 클라이언트 기여도를 공정하게 측정하는 인센티브 메커니즘은 필수적이지만, 실무에서는 아직 개발이 부족한 상태이다.

Figure 2: Categorization of federated recommendation systems.