[논문 리뷰] The Value of Privacy: Strategic Data Subjects, Incentive Mechanisms and Fundamental Limits

Weina Wang, Lei Ying외 1명|arXiv (Cornell University)|2016. 03. 22.

Privacy-Preserving Technologies in Data참고 문헌 5인용 수 5

한 줄 요약

이 논문은 데이터 수집자가 개인들이 노이즈가 섞인, 프라이버시를 보존하는 데이터를 보고하도록 유도하는 게임 이론적 모델에서 프라이버시의 전략적 가치를 연구한다. $\varepsilon$ 단위의 프라이버시를 확보하기 위해 필요한 최소 지급액에 대해 渐近적으로 날카로운 경계를 도출하며, 설계된 인센티브 메커니즘이 주어진 학습 정확도 목표에서 거의 최적의 비용을 달성함을 보여준다.

ABSTRACT

We study the value of data privacy in a game-theoretic model of trading private data, where a data collector purchases private data from strategic data subjects (individuals) through an incentive mechanism. The private data of each individual represents her knowledge about an underlying state, which is the information that the data collector desires to learn. Different from most of the existing work on privacy-aware surveys, our model does not assume the data collector to be trustworthy. Then, an individual takes full control of its own data privacy and reports only a privacy-preserving version of her data. In this paper, the value of $ε$ units of privacy is measured by the minimum payment of all nonnegative payment mechanisms, under which an individual's best response at a Nash equilibrium is to report the data with a privacy level of $ε$. The higher $ε$ is, the less private the reported data is. We derive lower and upper bounds on the value of privacy which are asymptotically tight as the number of data subjects becomes large. Specifically, the lower bound assures that it is impossible to use less amount of payment to buy $ε$ units of privacy, and the upper bound is given by an achievable payment mechanism that we designed. Based on these fundamental limits, we further derive lower and upper bounds on the minimum total payment for the data collector to achieve a given learning accuracy target, and show that the total payment of the designed mechanism is at most one individual's payment away from the minimum.

연구 동기 및 목표

• 개인이 자신의 프라이버시를 제어하고 노이즈가 섞인 데이터를 보고하는 시장에서 데이터 프라이버시를 전략적 트레이드오프로 모델링한다.
• Nash 균형 하에서 특정 프라이버시 수준에서 정직한 보고를 이끌기 위해 필요한 최소 지급액으로서 $\varepsilon$ 단위의 프라이버시 가치를 측정한다.
• 목표 학습 정확도를 달성하면서 총 지급액을 최소화하는 인센티브 메커니즘을 설계한다.
• 전략적 데이터 주체로 구성된 대규모 인구에서 비용-정확도 트레이드오프의 기본 한계를 도출한다.
• 제안된 메커니즘의 총 지급액이 이론적 최소값에 한 개인의 지급액 이내에 있다는 것을 보여준다.

제안 방법

• 데이터 수집을 데이터 수집자와 $N$명의 전략적 개인 간의 게임으로 모델링하며, 각 개인은 자신의 비공개 신호의 프라이버시 보존된 버전을 보고한다.
• 이진 가설 검증 프레임워크를 사용한다: 상태 $W$는 이진 랜덤 변수이며, 각 개인의 신호 $S_i$는 $\theta > 0.5$ 확률로 $W$와 일치한다.
• 프라이버시 수준 $\varepsilon$는 보고된 데이터 $X_i$의 노이즈 정도를 측정하는 척도로, $\varepsilon$가 클수록 프라이버시가 낮다.
• 비음수 지급 메커니즘 $\bm{R}^{(N,\varepsilon)}$을 도입하여 개인들이 Nash 균형에서 특정 프라이버시 수준 $\varepsilon$를 선택하도록 유도한다.
• Chernoff 정보를 정확도 지표로 사용하며, Bhattacharyya 경계를 통해 오류 확률과 연결한다.
• 대규모 $N$에 대한 渐近 분석을 통해 프라이버시 가치 $V_{\mathrm{LB}}(\varepsilon)$와 $V_{\mathrm{UB}}(\varepsilon)$에 대해 渐近적으로 날카로운 하한 및 상한 경계를 유도한다.

실험 결과

연구 질문

• RQ1 Nash 균형 하에서 특정 프라이버시 수준 $\varepsilon$를 갖는 데이터를 보고하도록 개인을 유도하기 위해 필요한 최소 지급액은 얼마인가?
• RQ2 데이터 수집자는 어떤 인센티브 메커니즘을 설계하여 목표 학습 정확도를 달성하면서 총 지급액을 최소화할 수 있는가?
• RQ3 개인이 프라이버시에 대해 전략적일 경우 비용-정확도 트레이드오프의 기본 한계는 무엇인가?
• RQ4 실제 지급 메커니즘이 주어진 정확도 목표에 대해 이론적 최소 총 지급액에 얼마나 가까이 갈 수 있는가?
• RQ5 비용을 최소화하기 위해 참가자 수와 그들의 프라이버시 수준 사이의 최적 균형은 무엇인가?

주요 결과

• 프라이버시 $\varepsilon$ 단위의 가치는 하한 $V_{\mathrm{LB}}(\varepsilon)$로 제한되며, 이는 개인으로부터 해당 프라이버시 수준을 확보하기 위해 필요한 최소 지급액을 나타낸다.
• 프라이버시 가치의 상한은 설계된 지급 메커니즘 $\bm{R}^{(N,\varepsilon)}$에 의해 달성되며, $N \to \infty$일 때 渐近적으로 날카로운 경계를 이룬다.
• 참가자 수 $\widetilde{N}$과 프라이버시 수준 $\widetilde{\varepsilon}$를 가진 설계된 메커니즘의 총 기대 지급액은 $\widetilde{N}V_{\mathrm{LB}}(\widetilde{\varepsilon}) + O(\tau \ln(1/\tau))$ 이하이며, 여기서 $\tau$는 정확도 목표이다.
• 이 메커니즘의 총 지급액은 이론적 최소값에 한 개인의 지급액 이내에 있어 거의 최적이다.
• 최적의 $\widetilde{N}$과 $\widetilde{\varepsilon}$ 선택은 비용과 정확도를 균형 잡고 프라이버시의 품질 대 가격 비율을 최대화한다.
• Chernoff 정보 지표는 오류 확률에 대한 다루기 쉬우면서도 정확한 대체 지표로서, 날카로운 지수 상한 경계를 제공한다.