[논문 리뷰] Selling Privacy at Auction

Arpita Ghosh, Aaron Roth|ScholarlyCommons (University of Pennsylvania)|2010. 11. 05.

Privacy-Preserving Technologies in Data참고 문헌 16인용 수 5

한 줄 요약

이 논문은 차별적 프라이버시를 보장하면서 사적 데이터를 구매하기 위한 새로운 경매 프레임워크를 제안하며, 데이터 분석가의 구매를 다중 단위 조달 경매로 모델링한다. 정확도 목표 하에서 비용을 최소화하거나 예산 제약 하에서 정확도를 최대화할 수 있는 최적의 메커니즘을 설계할 수 있음을 보여주지만, 개인적 합리성과 강력한 프라이버시 보장은 편향을 도입하지 않으면 함께 성립할 수 없다.

ABSTRACT

We initiate the study of markets for private data, though the lens of differential privacy. Although the purchase and sale of private data has already begun on a large scale, a theory of privacy as a commodity is missing. In this paper, we propose to build such a theory. Specifically, we consider a setting in which a data analyst wishes to buy information from a population from which he can estimate some statistic. The analyst wishes to obtain an accurate estimate cheaply. On the other hand, the owners of the private data experience some cost for their loss of privacy, and must be compensated for this loss. Agents are selfish, and wish to maximize their profit, so our goal is to design truthful mechanisms. Our main result is that such auctions can naturally be viewed and optimally solved as variants of multi-unit procurement auctions. Based on this result, we derive auctions for two natural settings which are optimal up to small constant factors: 1. In the setting in which the data analyst has a fixed accuracy goal, we show that an application of the classic Vickrey auction achieves the analyst's accuracy goal while minimizing his total payment. 2. In the setting in which the data analyst has a fixed budget, we give a mechanism which maximizes the accuracy of the resulting estimate while guaranteeing that the resulting sum payments do not exceed the analysts budget. In both cases, our comparison class is the set of envy-free mechanisms, which correspond to the natural class of fixed-price mechanisms in our setting. In both of these results, we ignore the privacy cost due to possible correlations between an individuals private data and his valuation for privacy itself. We then show that generically, no individually rational mechanism can compensate individuals for the privacy loss incurred due to their reported valuations for privacy.

연구 동기 및 목표

• 차별적 프라이버시를 가시화 가능한 상품으로 삼아 사적 데이터 시장을 메커니즘 설계 문제로 체계화하기.
• 데이터 소유자에게 프라이버시 손실에 대해 공정하게 보상하면서도 인구 통계 추정치의 정확성을 확보하는 과제 해결.
• 고정된 정확도 목표와 경직된 예산 제약이라는 두 가지 핵심 제약 조건 하에서 최적의 경매 메커니즘 식별.
• 개인적 합리성 메커니즘의 이론적 한계 탐색: 강력한 프라이버시 모델 하에서

제안 방법

• 입찰자(데이터 소유자)가 프라이버시 비용을 보고하는 다중 단위 조달 경매로 데이터 분석가의 문제를 모델링.
• 차별적 프라이버시를 공식적 보장으로 사용하여 프라이버시 손실을 정량화하고, 프라이버시 비용에 대한 유틸리티 이론적 해석 가능.
• 비열등가 가격 기준과의 비교를 통해 최적의 경매 메커니즘 유도하여 일정 요소 내에서 근사 최적을 달성.
• 차별적 프라이버시의 조합 성질을 적용하여 입찰자 간 총 프라이버시 손실을 제한.
• 개인적 합리성 메커니즘이 엄격한 프라이버시 모델에서 비정상적인 정확도를 달성할 수 없음을 보여주는 공식적인 불가능성 결과 도출.
• 한정된 평가 범위, 거짓 보고 유인, 동적 또는 다중 시장 설정과 같은 향후 연구 방향 제안.

실험 결과

연구 질문

• RQ1 차별적 프라이버시를 가시화 가능한 지표로 삼아, 사적 데이터를 효율적이고 공정하게 시장에서 구매할 수 있는가?
• RQ2 데이터 분석가는 고정된 정확도 목표를 달성하면서 지불 비용을 최소화하기 위해 어떻게 경매를 설계해야 하는가?
• RQ3 데이터 분석가가 경직된 예산 제약을 가진다면 어떤 경매 메커니즘이 정확도를 최대화하는가?
• RQ4 개인의 데이터와 보고한 프라이버시 평가 간 상관관계로 인한 프라이버시 손실에 대해 공정하게 보상하는 메커니즘을 설계할 수 있는가?
• RQ5 데이터와 평가의 프라이버시가 모두 보호되는 조건에서, 개인적 합리성 메커니즘의 근본적 한계는 무엇인가?

주요 결과

• 고정된 정확도 목표를 가진 데이터 분석가를 대상으로 최적의 경매 메커니즘을 설계할 수 있으며, 최적의 비열등가 가격 기준에 비해 일정 요소 내에서 비용 최소화를 달성할 수 있다.
• 경직된 예산을 가진 데이터 분석가를 대상으로 제안된 메커니즘은 최적의 비열등가 메커니즘에 비해 일정 요소 내에서 정확도를 최대화한다.
• 근본적인 불가능성 결과가 입증됨: 엄격한 프라이버시 모델에서 데이터와 평가의 프라이버시가 모두 보호되는 조건 하에서, 개인적 합리성 메커니즘은 비정상적인 정확도를 달성할 수 없다.
• 정확도 및 차별적 프라이버시 제약 조건으로 인해, 개인의 평가에 관계없이 모든 입찰자 간 총 프라이버시 손실은 최소 ln(4/3) ≈ 0.2875 이상이어야 한다.
• 한정된 평가 범위는 불가능성 결과를 피할 수 있지만, 재표본 추출 편향을 재도입하여 대표성 있는 추정의 목표를 뒤엎을 수 있다.
• 논문은 동적 경매, 다중 시장 메커니즘, 데이터 보고의 거짓 유인 처리 등 다섯 가지 핵심 향후 연구 방향을 식별했다.