[논문 리뷰] Robust Federated Recommendation System

Chen Chen, Jingfeng Zhang외 3명|arXiv (Cornell University)|2020. 06. 15.

Recommender Systems and Techniques참고 문헌 21인용 수 18

한 줄 요약

이 논문은 모델 파라미터 대신 클라이언트 기울기를 사용하여 탐지함으로써 바르티잔 독성 공격에 대비하는 강건한 피어드 추천 시스템(A-RFRS)을 제안한다. 기존 방법이 모델 파라미터에 의존하는 것과 달리, 이 방법은 기울기 기반 바르티잔 내성에 기반하며, 애덤과 같은 모멘타 기반 최적화기와 함께 사용될 경우 기울기가 악성 클라이언트를 더 잘 드러내므로 이론적으로도 실험적으로도 뛰어난 공격 저항성을 확보한다. 이는 네 개의 실세계 데이터셋에서 입증되었다.

ABSTRACT

Federated recommendation systems can provide good performance without collecting users' private data, making them attractive. However, they are susceptible to low-cost poisoning attacks that can degrade their performance. In this paper, we develop a novel federated recommendation technique that is robust against the poisoning attack where Byzantine clients prevail. We argue that the key to Byzantine detection is monitoring of gradients of the model parameters of clients. We then propose a robust learning strategy where instead of using model parameters, the central server computes and utilizes the gradients to filter out Byzantine clients. Theoretically, we justify our robust learning strategy by our proposed definition of Byzantine resilience. Empirically, we confirm the efficacy of our robust learning strategy employing four datasets in a federated recommendation system.

연구 동기 및 목표

• 바르티잔 클라이언트에 의한 저비용 독성 공격으로부터 피어드 추천 시스템의 취약성을 해결하기 위해.
• 애덤과 같은 모멘타 기반 최적화기 사용 시 기존 방어 전략이 모델 파라미터에 의존함으로써 발생하는 한계를 규명하기 위해.
• 기존의 모델 파라미터 대신 기울기를 사용하여 바르티잔 클라이언트 탐지에 대한 새로운 방어 메커니즘을 제안하기 위해.
• 모멘타 최적화 기반 피어드 학습을 위한 특화된 바르티잔 내성의 새로운 이론적 정의를 수립하기 위해.
• 다양한 데이터셋과 최적화기에서 제안된 방법의 강건성을 실험적으로 검증하기 위해.

제안 방법

• 이 방법은 효율적인 희박 피드백 처리와 실시간 개인화를 가능하게 하는 인자 분해 항목 유사도 모델(FISM)을 추천 백본으로 사용한다.
• 모델 파라미터를 집계하는 대신, 중앙 서버는 클라이언트 기울기를 계산하고 분석하여 바르티잔 클라이언트를 탐지하고 걸러낸다.
• 애덤, RMSProp, AdaGrad와 같은 모멘타 기반 최적화기와 함께 사용되는 피어드 학습을 위한 바르티잔 내성의 새로운 정의를 도입한다.
• 기울기 기반 탐지 기반의 강건한 학습 전략은 이론적으로 정당화되며, 해로운 클라이언트가 모델 파라미터를 위장하더라도 내성 보장을 보장한다.
• SGD with momentum와 AdaGrad를 포함한 여러 최적화기와도 일반화 가능하며, 이론적 보장을 유지한다.
• 클라이언트 기울기는 주성분 분석(PCA)을 통해 투영되어 시각화 및 분석되며, 이는 기울기가 모델 파라미터보다 양호한 범주 간 분리도를 보여준다.

실험 결과

연구 질문

• RQ1 피어드 추천 시스템에서 애덤과 같은 모멘타 기반 최적화기를 사용할 경우, 기존의 모델 파라미터 기반 방어 전략이 바르티잔 클라이언트를 효과적으로 탐지할 수 있는가?
• RQ2 왜 모멘타 최적화 기반 피어드 학습에서 모델 파라미터는 바르티잔 클라이언트와 정상 클라이언트를 구분하지 못하는가?
• RQ3 기울기 기반 탐지 기법은 기존의 파라미터 기반 탐지 대비 피어드 추천 시스템의 바르티잔 내성에 개선을 이룰 수 있는가?
• RQ4 제안된 강건한 학습 전략은 다양한 최적화기와 실세계 데이터셋에서 이론적으로 타당하고 실험적으로 효과적인가?
• RQ5 독성 공격 하에서 제안된 방법의 성능은 Krum, RFA, Trmean 등의 베이스라인과 비교해 어떻게 되는가?

주요 결과

• 제안된 A-RFRS 방법은 네 개의 모든 데이터셋에서 Recall@K 기준으로 기존의 베이스라인 방법(Krum, RFA, Trmean)보다 뚜렷이 뛰어난 성능을 보였다. 특히 독성 공격 조건에서 두드러진 성능 향상을 보였다.
• Last.fm 데이터셋에서 A-RFRS는 30%의 바르티잔 클라이언트 조건에서도 Recall@10이 0.48을 기록했으나, Krum과 Trmean는 동일 조건에서 0.35 이하로 떨어졌다.
• 실험 결과 기울기는 악성 클라이언트의 기울기가 정상 클라이언트와 더 명확히 구분됨을 보여주었으며, 이는 애덤 사용 시 모멘타 최적화의 적응적 성질 덕분이었다.
• SGD with momentum와 AdaGrad를 포함한 다양한 최적화기에서도 메서드가 강력한 성능 유지를 보였으며, 이는 애덤 외에도 일반화 가능함을 확인했다.
• PCA를 통한 시각화 결과 기울기는 모델 파라미터보다 정상 및 바르티잔 클라이언트 간 분리가 더 명확히 드러나, 핵심 설계 선택의 타당성을 검증했다.
• 이론적 분석을 통해 기울기 기반 탐지 전략이 새로 정의된 바르티잔 내성 조건을 충족함을 증명하였으며, 이는 악성 클라이언트 존재 상황에서도 강건성을 확보함을 의미한다.