[논문 리뷰] Adversarial Machine Learning in Recommender Systems: State of the art and Challenges.

Yashar Deldjoo, Tommaso Di Noia외 1명|arXiv (Cornell University)|2020. 05. 20.

Adversarial Robustness in Machine Learning인용 수 4

한 줄 요약

이 종합 검토는 추천 시스템(RS)에서의 적대적 기계학습(AML)을 다루며, 잠재요인 모델(LFM)인 행렬 분해와 같은 모델에 대한 공격과 방어 전략을 분석한다. 60개의 핵심 연구를 검토한 결과, AML은 적대적 예제를 통해 RS의 강건성을 해칠 수 있는 이중적 역할을 하며, 동시에 생성적 적대적 네트워크(GANs)를 통해 모델 정밀도를 향상시킬 수 있음을 시사한다.

ABSTRACT

Latent-factor models (LFM) based on collaborative filtering (CF), such as matrix factorization (MF) and deep CF methods, are widely used in modern recommender systems (RS) due to their excellent performance and recommendation accuracy. Notwithstanding their great success, in recent years, it has been shown that these methods are vulnerable to adversarial examples, i.e., subtle but non-random perturbations designed to force recommendation models to produce erroneous outputs. The main reason for this behavior is that user interaction data used for training of LFM can be contaminated by malicious activities or users' misoperation that can induce an unpredictable amount of natural noise and harm recommendation outcomes. On the other side, it has been shown that these systems, conceived originally to attack machine learning applications, can be successfully adopted to strengthen their robustness against attacks as well as to train more precise recommendation engines. In this respect, the goal of this survey is two-fold: (i) to present recent advances on AML-RS for the security of RS (i.e., attacking and defense recommendation models), (ii) to show another successful application of AML in generative adversarial networks (GANs), which use the core concept of learning in AML (i.e., the min-max game) for generative applications. In this survey, we provide an exhaustive literature review of 60 articles published in major RS and ML journals and conferences. This review serves as a reference for the RS community, working on the security of RS and recommendation models leveraging generative models to improve their quality.

연구 동기 및 목표

• 목표 공격에 대응하기 위해 추천 시스템(RS)의 보안을 강화하기 위한 최근 적대적 기계학습 기술의 발전을 분석하기 위해.
• 잠재요인 모델(LFM)에서 추천 정확도를 떨어뜨릴 수 있는 미세하고 비랜덤적인 변형(적대적 예제)이 어떻게 작용하는지 조사하기 위해.
• 적대적 훈련 기법을 활용해 추천 모델의 강건성을 향상시키는 방법을 탐색하기 위해.
• 생성적 적대적 네트워크(GANs)의 응용을 검토하여, AML의 최소-최대 게임 프레임워크를 활용해 추천 품질을 향상시키기 위해.
• 상위 RS 및 기계학습 학술지에서 발표된 60篇의 논문을 종합적으로 검토하여 RS 보안 및 생성 모델링 분야의 연구자들에게 참고 자료를 제공하기 위해.

제안 방법

• 주요 RS 및 기계학습 학술회 및 저널(예: KDD, SIGIR, NeurIPS, ACM TOIS)에서 발표된 60篇의 동료 심사된 논문을 체계적으로 검토하였다.
• 잠재요인 모델(LFM), 특히 행렬 분해(MF) 및 딥 컬라보레이티브 필터링(CF) 방법에 대한 적대적 공격를 분류하고 분석하였다.
• 사용자-아이템 상호작용 데이터의 변형에 대한 민감성에 대비해 강건성을 향상시키기 위해 적대적 훈련 기법을 활용한 방어 기법을 검토했다.
• AML의 최소-최대 게임 프레임워크를 활용해 고품질 추천을 생성하기 위해 추천 시스템(RS)에서 생성적 적대적 네트워크(GANs)의 응용을 탐구하였다.
• 공격의 목적(예: 오염, 회피)에 따라 공격를 분류하고, 적대적 예제 탐지 및 강건 최적화 기반으로 방어 전략을 분류하였다.
• 악성 사용자 또는 오작동로 인한 데이터 오염이 LFM 성능 저하에 기여하는지 평가하였다.

실험 결과

연구 질문

• RQ1 어떻게 적대적 예제는 추천 시스템의 잠재요인 모델(LFM) 성능을 약화시키는가?
• RQ2 특히 노이즈 또는 악성 사용자 상호작용이 존재할 경우, 공동 필터링 기반 RS의 주요 취약점은 무엇인가?
• RQ3 적대적 훈련이 목표 공격에 대비해 추천 모델의 강건성을 얼마나 향상시킬 수 있는가?
• RQ4 생성적 적대적 네트워크(GANs)는 적대적 학습 원리를 활용해 추천 품질을 어떻게 향상시킬 수 있는가?
• RQ5 추천 시스템을 보다 안전하고 향상시키기 위해 적대적 기계학습을 적용할 때의 주요 과제와 열린 연구 방향은 무엇인가?

주요 결과

• 잠재요인 모델(LFM), 행렬 분해 및 딥 CF 방법을 포함하여, 악성 사용자나 운영 노이즈에 의한 사용자 상호작용 데이터 오염로 인해 적대적 예제에 취약하다.
• RS에 대한 적대적 공격는 오염 공격와 회피 공격로 분류되며, 둘 다 미세한 입력 변형에 대한 모델 민감성에 악용된다.
• 적대적 훈련 기법은 모델 최적화 과정에서 공격 시나리오를 시뮬레이션함으로써 모델의 강건성을 크게 향상시킨다.
• 생성적 적대적 네트워크(GANs)는 적대적 기계학습의 최소-최대 게임 프레임워크를 성공적으로 활용해 고품질 추천을 생성한다.
• 적대적 학습의 RS 통합은 보안 강화 외에도 표현 학습 향상으로 인해 추천 정확도 향상에도 기여한다.
• 60篇의 논문을 종합한 문헌 검토 결과, RS에서 AML에 대한 관심이 증가하고 있으며, 보안 강화와 생성 모델 향상에 대한 집중이 점점 커지고 있음을 확인할 수 있다.