[논문 리뷰] Privacy-Adversarial User Representations in Recommender Systems.

Yehezkel S. Resheff, Yanai Elazar외 2명|arXiv (Cornell University)|2018. 07. 10.

Privacy-Preserving Technologies in Data인용 수 1

한 줄 요약

이 논문은 추천 시스템 내 사용자 표현에서 비밀스러운 사용자 속성(예: 성별, 연령)의 泄露를 줄이기 위해 사생활 친화적 프레임워크를 제안한다. 사용자 임베딩을 사전에 손상시키지 않으면서도 정보 泄露를 최소화하도록 적대적으로 훈련시킴으로써, 기준 데이터에서 사생활과 유틸리티 사이의 상당한 트레이드오프를 줄였다.

ABSTRACT

Latent factor models for recommender systems represent users and items as low dimensional vectors. Privacy risks have been previously studied mostly in the context of recovery of personal information in the form of usage records from the training data. However, the user representations themselves may be used together with external data to recover private user information such as gender and age. In this paper we show that user vectors calculated by a common recommender system can be exploited in this way. We propose the privacy-adversarial framework to eliminate such leakage, and study the trade-off between recommender performance and leakage both theoretically and empirically using a benchmark dataset. We briefly discuss further applications of this method towards the generation of deeper and more insightful recommendations.

연구 동기 및 목표

• 잠재 요인 기반 추천 시스템에서 사용자 임베딩으로부터 비밀스러운 사용자 속성(예: 성별, 연령)이 유추될 수 있는 위험을 조사하는 것.
• 훈련 데이터가 직접 노출되지 않더라도 표준 사용자 표현 학습 방식에서 내재된 사생활 泄露 문제를 해결하는 것.
• 추천 정확도를 심각하게 떨어뜨리지 않으면서도 사용자 임베딩에서 속성 泄루지를 최소화하는 프레임워크를 개발하는 것.
• 사용자 표현에서 추천 성능와 사생활 泄루지 사이의 트레이드오프를 경험적이고 이론적으로 분석하는 것.

제안 방법

• 사용자 임베딩이 속성 유추 공격에 대해 강건해지도록 최적화하는 사생활 친화적 훈련 프레임워크를 도입한다.
• 감정적 분류기(adversarial discriminator)를 활용해 사용자 임베딩에서 민감한 속성의 泄루지를 식별하고 최소화한다.
• 이중 목적 최적화를 사용: 추천 성능(예: 행렬 분해 손실)을 위한 목적과 속성 유추에 대비한 사전적 손실(advversarial loss)을 위한 목적.
• 유틸리티와 사생활 사이의 트레이드오프를 평가하기 위해 표준 벤치마크 데이터셋에 프레임워크를 적용한다.
• 추천 정확도와 민감 정보 노출 감소를 균형 잡는 공동 목적함수를 사용해 사용자 임베딩을 훈련시킨다.
• 추천 품질(예: RMSE, AUC)과 사생활 보호(예: 속성 유추 정확도)를 평가하기 위해 표준 평가 지표를 사용한다.

실험 결과

연구 질문

• RQ1 표준 사용자 임베딩에서 추천 시스템 내 성별, 연령과 같은 비밀스러운 사용자 속성이 얼마나 정확하게 유추될 수 있는가?
• RQ2 추천 정확도를 떨어뜨리지 않으면서도 이러한 속성 유추 위험을 줄이기 위해 사용자 표현을 어떻게 수정할 수 있는가?
• RQ3 사용자 임베딩에 적대적 정규화를 적용했을 때 추천 성능와 사생활 泄루지 사이의 트레이드오프는 어떠한가?
• RQ4 제안된 프레임워크는 실제 벤치마크 데이터셋에 효과적으로 적용될 수 있으며 실용적 유틸리티를 유지할 수 있는가?

주요 결과

• 표준 추천 시스템의 사용자 임베딩은 성별, 연령과 같은 비밀스러운 속성을 높은 정확도로 유추할 수 있다.
• 제안된 사생활 친화적 프레임워크는 속성 유추 정확도를 기준 수준에 가깝게 낮춰 사생활 泄루지를 상당히 제한한다.
• 이 방법은 추천 성능와 사생활 보호 사이에 유리한 트레이드오프를 달성하여 높은 유틸리티를 유지하면서 민감 정보 노출을 최소화한다.
• 벤치마크 데이터셋에서의 경험적 결과는 프레임워크가 추천 품질에 상당한 영향을 주지 않으면서도 효과적으로 泄루지를 억제함을 보여준다.