[논문 리뷰] A Stackelberg Game Perspective on the Conflict Between Machine Learning and Data Obfuscation

Jeffrey Pawlick, Quanyan Zhu|arXiv (Cornell University)|2016. 08. 08.

Privacy-Preserving Technologies in Data참고 문헌 13인용 수 3

한 줄 요약

이 논문은 기계 학습자와 데이터를 은폐하는 사용자 간의 전략적 갈등을 N+1명의 플레이어로 구성된 스택엘베르크 게임으로 모델링하며, 학습자가 먼저 프라이버시 수준을 확정하고 사용자가 자신의 데이터에 노이즈를 추가하여 반응하는 상황을 분석한다. 주요 발견은 학습자가 사용자 수준의 은폐 영향을 완화하고 프라이버시 보호를 학습자에게 인센티브-compatible하게 만들기 위해 사전에 데이터를 흐리게 처리함으로써 정확도와 유틸리티를 향상시킬 수 있다는 것이다.

ABSTRACT

Data is the new oil; this refrain is repeated extensively in the age of internet tracking, machine learning, and data analytics. As data collection becomes more personal and pervasive, however, public pressure is mounting for privacy protection. In this atmosphere, developers have created applications to add noise to user attributes visible to tracking algorithms. This creates a strategic interaction between trackers and users when incentives to maintain privacy and improve accuracy are misaligned. In this paper, we conceptualize this conflict through an N+1-player, augmented Stackelberg game. First a machine learner declares a privacy protection level, and then users respond by choosing their own perturbation amounts. We use the general frameworks of differential privacy and empirical risk minimization to quantify the utility components due to privacy and accuracy, respectively. In equilibrium, each user perturbs her data independently, which leads to a high net loss in accuracy. To remedy this scenario, we show that the learner improves his utility by proactively perturbing the data himself. While other work in this area has studied privacy markets and mechanism design for truthful reporting of user information, we take a different viewpoint by considering both user and learner perturbation.

연구 동기 및 목표

• 기계 학습자와 데이터를 은폐하는 프라이버시 중심의 사용자 간의 전략적 상호작용을 게임 이론 문제로 모델링하는 것.
• 학습자가 발표한 프라이버시 수준에 대해 사용자가 각자의 흐림 정도를 선택함으로써 발생하는 균형 행동을 분석하는 것.
• 이 전략적 환경에서 차별적 프라이버시(εp로 매개변수화됨)를 통한 프라이버시 손실과 경험적 리스크 최소화를 통한 정확도 간의 트레이드오프를 정량화하는 것.
• 학습자가 사용자 은폐에 대응하기 위해 사전에 데이터를 흐리게 처리함으로써 자신의 유틸리티를 향상시킬 수 있는지 여부와 그 방법을 조사하는 것.
• 사전 흐림 처리가 프라이버시 보호를 학습자에게 인센티브-compatible하게 만들고 전체 정확도 손실을 줄일 수 있음을 입증하는 것.

제안 방법

• 학습자를 리더로, N명의 사용자를 팔로워로 하는 N+1명의 플레이어로 구성된 확장된 스택엘베르크 게임으로 상호작용을 모델링한다.
• 프라이버시 손실은 εp로 매개변수화된 차별적 프라이버시(DP)를 사용하여 정량화하고, 예측 정확도는 경험적 리스크 최소화(ERM)를 통해 측정한다.
• 입력 데이터에 추가되는 흐림 벡터 vi(사용자)와 wi(학습자)를 도입하며, 총 노이즈 ui = vi + wi로 정의한다.
• L2-정규화된 ERM와 손실 함수의 리프시츠 조건을 사용하여, 흐리지 않은 분류기와 흐린 분류기 간의 차이에 대한 경계를 유도한다.
• 집중 불등식과 카이제곱 尾 꼬리 경계를 적용하여 노이즈로 인한 기대 손실 차이를 확률적으로 경계한다.
• 균형 조건을 수립하고 사용자 반응 하에서 학습자의 최적 전략을 분석하며, 사전 흐림 처리가 네트워크 정확도 손실을 줄일 수 있음을 보여준다.

실험 결과

연구 질문

• RQ1 사용자 수준의 데이터 은폐는 전략적 환경에서 기계 학습 모델의 정확도에 어떤 영향을 미치는가?
• RQ2 학습자가 발표한 프라이버시 수준에 대해 사용자가 독립적으로 흐림 정도를 선택할 경우의 균형 결과는 무엇인가?
• RQ3 사용자가 이미 은폐를 하고 있을 때조차도 기계 학습자가 사전에 데이터를 흐리게 처리함으로써 자신의 유틸리티를 향상시킬 수 있는가?
• RQ4 사용자가 은폐를 하고 있을 때, 프라이버시 보호가 학습자에게 인센티브-compatible해지는 조건은 무엇인가?
• RQ5 사용자와 학습자의 흐림 처리가 결합될 경우 전체 학습 시스템의 정확도에 어떤 영향을 미치는가?

주요 결과

• 균형 상태에서 사용자는 독립적으로 자신의 데이터를 흐리게 하여, 상호작용하는 독립적인 노이즈의 집적이 발생함으로써 모델 정확도에 큰 손실이 발생한다.
• 사용자가 은폐할 경우 학습자의 유틸리티는 떨어지며, 양측의 노이즈가 병합되어 모델 성능이 열악해진다.
• 학습자가 사전에 흐림 처리를 함으로써 사용자 은폐의 부정적 영향을 줄일 수 있으며, 훈련 데이터 내 효과적 노이즈 수준을 낮출 수 있다.
• 사용자 은폐가 비용이 많이 들 경우, 학습자는 스스로 데이터를 흐리게 처리함으로써 더 나은 유틸리티를 달성할 수 있으며, 이는 프라이버시 보호를 학습자에게 인센티브-compatible하게 만든다.
• 이론적 경계는 최적의 분류기와 흐린 분류기 간의 기대 손실 차이가 노이즈 크기 제곱합에 비례하며, 높은 확률로 성립함을 보여준다.
• 분석을 통해 학습자는 과도한 사용자 은폐를 막기 위해 전략적으로 흐림 정도를 선택함으로써 유리한 균형에 도달할 수 있음을 입증한다.