[논문 리뷰] Data Poisoning Attacks on Factorization-Based Collaborative Filtering

Bo Li, Yining Wang외 2명|arXiv (Cornell University)|2016. 08. 29.

Adversarial Robustness in Machine Learning참고 문헌 7인용 수 154

한 줄 요약

본 논문은 분해 기반 협업 필터링에 대한 데이터 포이즈닝 공격을 제시하고, 두 알고리즘(교대 최소화와 핵 노름 최소화)에 대한 거의 최적에 가까운 악성 데이터를 도출하며 탐지를 피하기 위해 정상 사용자 행동을 모방하는 방법을 제시한다.

ABSTRACT

Recommendation and collaborative filtering systems are important in modern information and e-commerce applications. As these systems are becoming increasingly popular in the industry, their outputs could affect business decision making, introducing incentives for an adversarial party to compromise the availability or integrity of such systems. We introduce a data poisoning attack on collaborative filtering systems. We demonstrate how a powerful attacker with full knowledge of the learner can generate malicious data so as to maximize his/her malicious objectives, while at the same time mimicking normal user behavior to avoid being detected. While the complete knowledge assumption seems extreme, it enables a robust assessment of the vulnerability of collaborative filtering schemes to highly motivated attacks. We present efficient solutions for two popular factorization-based collaborative filtering algorithms: the \emph{alternative minimization} formulation and the \emph{nuclear norm minimization} method. Finally, we test the effectiveness of our proposed algorithms on real-world data and discuss potential defensive strategies.

연구 동기 및 목표

• 추천의 가용성과 무결성에 미치는 영향을 고려해 협업 필터링에서의 데이터 포이즈닝 연구의 필요성을 제시한다.
• 가장 악의적인 지식 가정(케르크호프의 원칙)에 따른 거의 최적의 공격 전략을 개발한다.
• 두 가지 인기 있는 CF 알고리즘에 대해 포이즈닝 데이터를 생성하는 기울기 기반 및 확률적 방법을 제공한다.
• 실제 데이터에 대한 공격을 시연하고 잠재적인 방어 전략을 논의한다.

제안 방법

• 유해 프로필의 가능한 집합 내에서 공격자 유용성을 최대화하도록 악성 데이터를 선택하는 최적화 문제로 포이즈닝을 형식화한다.
• 교대 최소화와 핵 노름 최소화를 위한 1차 KKT 조건을 사용하여 악성 데이터에 대한 공격자의 기울기 계산을 도출한다.
• 정사영 기울기 상승 방법과 SGLD 기반 접근법을 제안하여 정상 사용자를 흉내 내는 악성 프로필을 생성한다.
• 특징 상관관계의 편차 탐지와 앙상블 방법의 활용에 대한 완화 지향적 논의를 제공한다.

실험 결과

연구 질문

• RQ1 실제 제약 하에서 인수분해 기반 협업 필터링의 성능을 저하시키기 위해 공격자가 데이터를 최적으로 주입할 수 있는가?
• RQ2 공격자들이 정상 사용자 행동을 모방하여 탐지를 피하면서 가용성, 무결성 또는 둘의 조합을 최대화할 수 있는가?
• RQ3 교대 최적화와 핵 노름 접근법에 대한 거의 최적의 포이즈닝을 효율적으로 계산하게 하는 기울기 기반 전략은 무엇인가?
• RQ4 SGLD와 같은 탐지 회피 전략이 현실적인 악성 프로필 생성에 얼마나 효과적인가?

주요 결과

• 가용성 및 무결성 유틸리티에 대해 통합 최적화 프레임워크 하에서 최적의 공격 전략을 계산할 수 있다.
• KKT 조건을 사용하는 기울기 기반 방법은 교대 최소화와 핵 노름 형태 모두에서 포이즈닝 데이터에 대한 공격자의 목적함수의 도함수를 근사적으로 계산하게 해준다.
• 공격은 RMSE를 크게 악화시키고 아이템 평점을 변경할 수 있으며, 특정 아이템을 조작하는 표적 무결성 공격이 더 효과적이다.
• SGLD를 통해 정상 사용자 행동을 모방하면 탐지 회피력이 높은 포이즈닝 프로필을 얻고 무작위 공격과 비교해도 공격 성능이 경쟁력이 있다.
• PGA는 더 강한 RMSE 영향을 주지만 공격자 프로필의 타당성이 낮고, 반면 SGLD는 탐지 회피 이점을 제공한다.