[논문 리뷰] A survey on Adversarial Recommender Systems: from Attack/Defense strategies to Generative Adversarial Networks

Yashar Deldjoo, Tommaso Di Noia외 1명|arXiv (Cornell University)|2020. 05. 20.

Adversarial Robustness in Machine Learning참고 문헌 188인용 수 28

한 줄 요약

이 종합 검토는 협업 필터링 모델에서의 공격 및 방어 전략과 추천 품질 향상을 위한 생성적 적대적 네트워크(GAN)의 응용을 포함하여 적대적 추천 시스템에 대한 종합적인 분석을 제공한다. 74개의 핵심 연구를 통합하여 추천 시스템에서의 적대적 기계학습에 대한 분류 체계를 제시하고, 보안, 확장성, 공정성 분야의 열린 과제를 규명한다.

ABSTRACT

Latent-factor models (LFM) based on collaborative filtering (CF), such as matrix factorization (MF) and deep CF methods, are widely used in modern recommender systems (RS) due to their excellent performance and recommendation accuracy. However, success has been accompanied with a major new arising challenge: many applications of machine learning (ML) are adversarial in nature. In recent years, it has been shown that these methods are vulnerable to adversarial examples, i.e., subtle but non-random perturbations designed to force recommendation models to produce erroneous outputs. The goal of this survey is two-fold: (i) to present recent advances on adversarial machine learning (AML) for the security of RS (i.e., attacking and defense recommendation models), (ii) to show another successful application of AML in generative adversarial networks (GANs) for generative applications, thanks to their ability for learning (high-dimensional) data distributions. In this survey, we provide an exhaustive literature review of 74 articles published in major RS and ML journals and conferences. This review serves as a reference for the RS community, working on the security of RS or on generative models using GANs to improve their quality.

연구 동기 및 목표

• 추천 시스템(RS)의 보안을 위한 최근의 적대적 기계학습(AML) 발전을 체계적으로 검토하고 분류하기.
• 데이터 생성을 통해 추천 품질 향상에 기여하는 생성적 적대적 네트워크(GAN)의 응용을 분석하기.
• 보안, 확장성, 정확도 이외의 평가 기준을 포함한 적대적 RS의 열린 연구 과제를 규명하기.
• 이미지와 같은 연속형 데이터가 아닌 이산형 사용자-아이템 상호작용 데이터에 적응시켜 컴퓨터 비전 분야의 AML 연구와 RS 간 격차를 메우기.
• 추천 시스템에서의 쿨스타트 문제를 완화하기 위해 현실적인 사용자 프로필을 생성하기 위해 GAN의 활용을 촉진하기.

제안 방법

• 주요 RS 및 기계학습 컫페리런스 및 저널에서 출판된 74篇의 동료 심사된 논문을 철저히 검토한다.
• 공격/방어 목표 및 GAN 기반 생성 응용에 기반한 적대적 추천 시스템의 분류 체계를 제안한다.
• 공격 전략은 대상(예: 정확도, 다양성, 공정성)에 따라, 방어 메커니즘은 학습 목표에 따라 분류한다.
• c+ GAN 및 기타 조건부 GAN 등 GAN 기반 접근법을 활용하여 보완적인 패션 아이템(예: 상의와 하의의 조합)을 생성한다.
• 최소-최대 최적화의 역할을 분석하여, 적대적 공격과 GAN 학습 모두를 제로섬 게임으로 프레임워크화한다.
• 대규모 RS에서 안정성과 성능 향상을 위해 최신 GAN 변종(WGAN, LSGAN, BEGAN 등)을 검토한다.

실험 결과

연구 질문

• RQ1 사용자-아이템 상호작용 데이터에서 눈에 띄지 않게 유지하면서 협업 필터링 모델을 조작할 수 있는 적대적 예제는 어떻게 설계할 수 있는가?
• RQ2 이산형 사용자 프로필과 연속형 이미지 데이터에 대한 적대적 공격 설계의 핵심 차이는 무엇인가?
• RQ3 적대적 공격가 비정확도 지표 외의 지표(예: 다양성, 신선도, 공정성)에 얼마나 큰 영향을 미치는가?
• RQ4 어떻게 GAN을 효과적으로 활용하여 추천 시스템의 쿨스타트 문제를 완화할 수 있는 현실적인 사용자 프로필을 생성할 수 있는가?
• RQ5 현대적이고 이질적인 추천 모델에서 적대적 공격에 대비한 가장 유망한 방어 전략은 무엇인가?

주요 결과

• 협업 필터링 모델에 대한 적대적 공격는 사용자-아이템 상호작용 데이터에 미세하고 비랜덤한 변형을 가하여 추천 정확도를 심각하게 떨어뜨릴 수 있다.
• 대부분의 기존 공격는 고전적 행렬 분해 모델에서 검증되었으며, 깊이 있는 모델과 그래프 기반 모델은 적대적 환경에서 여전히 탐색되지 않은 분야이다.
• c+ GAN과 같은 GAN 기반 접근법은 높은 호환성 점수로 보완적인 패션 아이템(예: 상의와 하의의 조합)을 성공적으로 생성한다.
• 합성 사용자 프로필을 생성하기 위해 GAN을 활용하면 쿨스타트 및 웜스타트 추천 시나리오에서 성능 향상이 가능하다.
• 특히 이산형 아이템 샘플링으로 인해 대규모 추천 시스템에서 GAN 학습의 안정성과 확장성은 여전히 핵심 과제이다.
• RS 분야에는 표준화된 위협 모델이 부족하여 공격 및 방어 방법의 재현 가능성과 비교 가능성에 제약이 있다.