[논문 리뷰] Robust Recommender System: A Survey and Future Directions

Kaike Zhang, Qi Cao외 5명|arXiv (Cornell University)|2023. 09. 05.

Adversarial Robustness in Machine LearningComputer Science인용 수 3

한 줄 요약

이 종합 검토는 악성 공격(예: 위조자 탐지, 적대적 훈련)과 자연 노이즈(예: 정규화, 자기지도 학습)에 대비한 강건한 추천 시스템 기법을 분류하는 포괄적인 분류 체계와 최신 기술 동향을 제시한다. 평가 표준화의 핵심 과제를 규명하고, LLM 통합 및 다중 신뢰성 특성 간 상호보완성 등 향후 연구 방향을 제시한다.

ABSTRACT

With the rapid growth of information, recommender systems have become integral for providing personalized suggestions and overcoming information overload. However, their practical deployment often encounters ``dirty'' data, where noise or malicious information can lead to abnormal recommendations. Research on improving recommender systems' robustness against such dirty data has thus gained significant attention. This survey provides a comprehensive review of recent work on recommender systems' robustness. We first present a taxonomy to organize current techniques for withstanding malicious attacks and natural noise. We then explore state-of-the-art methods in each category, including fraudster detection, adversarial training, certifiable robust training for defending against malicious attacks, and regularization, purification, self-supervised learning for defending against malicious attacks. Additionally, we summarize evaluation metrics and commonly used datasets for assessing robustness. We discuss robustness across varying recommendation scenarios and its interplay with other properties like accuracy, interpretability, privacy, and fairness. Finally, we delve into open issues and future research directions in this emerging field. Our goal is to provide readers with a comprehensive understanding of robust recommender systems and to identify key pathways for future research and development. To facilitate ongoing exploration, we maintain a continuously updated GitHub repository with related research: https://github.com/Kaike-Zhang/Robust-Recommender-System.

연구 동기 및 목표

• 악성 공격과 자연 노이즈를 포함한 더러운 데이터에 대비한 추천 시스템 강건성에 관한 최근 연구를 체계적으로 정리하고 분류하는 것.
• 적대적 훈련, 인증 가능한 강건성, 위조자 탐지, 자기지도 학습과 같은 최신 방어 기법을 분석하는 것.
• 현재 평가 지표와 데이터셋을 평가하여 강건성 평가에서의 일관성 부족과 표준화 부족을 드러내는 것.
• 정확성, 공정성, 프라이버시, 해석 가능성과 같은 다른 신뢰성 특성과의 상호작용을 분석하는 것.
• 열린 과제를 규명하고, LLM 기반 방어 및 통합 벤치마크 프레임워크와 같은 향후 연구 방향을 제안하는 것.

제안 방법

• 악성 공격 및 자연 노이즈 차원을 따라 강건성 기법을 정리하는 이차원 분류 체계를 제안한다.
• 하위 카테고리로 분류한 방법을 검토 및 분류한다: 악성 공격에 대한 위조자 탐지, 적대적 훈련, 인증 가능한 강건 훈련; 자연 노이즈에 대한 정규화, 정제, 자기지도 학습.
• 지표 오프셋과 데이터셋 사용 패턴을 포함한 평가 프로토콜을 분석하여 강건성 측정의 일관성 부족을 규명한다.
• 정확성, 공정성, 프라이버시, 해석 가능성과 같은 다른 신뢰성 특성과의 상호작용을 교차 성능 최적화 분석을 통해 분석한다.
• 대규모 언어 모델(Large Language Models, LLMs)을 활용한 적대적 예제 생성 및 위조자 탐지와 같은 향후 방법론적 방향을 제안한다.
• 표준화된 평가 벤치마크와 오픈 플랫폼을 통해 연구 간 재현성과 일관성을 확보할 것을 촉구한다.

실험 결과

연구 질문

• RQ1 악성 공격과 자연 노이즈에 대비하여 추천 시스템의 강건성을 어떻게 체계적으로 분류할 수 있는가?
• RQ2 추천 모델에서 적대적 공격과 데이터 노이즈를 완화하기 위해 가장 효과적인 방어 기법은 무엇인가?
• RQ3 강건성, 공정성, 프라이버시, 해석성은 어떻게 상호작용하며, 이러한 특성 간 최적화 목표를 통합할 수 있는가?
• RQ4 현재 강건한 추천 시스템 평가 관행의 핵심 한계는 무엇이며, 어떻게 이를 해결할 수 있는가?
• RQ5 대규모 언어 모델(LLMs)과 같은 신기술이 추천 시스템의 강건성을 어떻게 향상시킬 수 있는가?

주요 결과

• 2019년 이후 추천 시스템 강건성 분야의 논문 수가 크게 증가하여 연구 관심이 증가하고 있음을 반영한다.
• 현재 평가 관행은 강건성 측정에 신뢰할 수 없는 간접 지표(예: 성능 오프셋)에 크게 의존하고 있다.
• 강건성 연구에서 50개 이상의 데이터셋이 사용되고 있으나, 그 중 일부(예: 3개)만 널리 사용되고 있으며, 데이터셋 수정 방식이 연구 간 일관성이 없다.
• 다수의 테스트 분할은 무작위로 생성되어 평가 결과의 재현성에 영향을 미치는 변동성을 유발한다.
• 표준화된 평가 벤치마크와 오픈 플랫폼이 강력히 필요하며, 이를 통해 일관성 있고 비교 가능한 평가를 확보할 수 있다.
• 향후 연구는 강건성과 공정성, 프라이버시, 해석성 간 상호보완적 최적화를 탐색하고, LLM을 활용한 향상된 방어 메커니즘을 도입해야 한다.