[논문 리뷰] Towards Differentially Private Truth Discovery for Crowd Sensing Systems

Yaliang Li, Houping Xiao외 6명|arXiv (Cornell University)|2018. 10. 10.

Mobile Crowdsensing and Crowdsourcing참고 문헌 23인용 수 10

한 줄 요약

이 논문은 사용자 개인의 기밀을 보호하면서도 높은 집계 정확도를 유지하는 커뮤니케이션 없이도 작동하는 국소적 차별적 비밀보장 기반 진실 탐색 메커니즘을 제안한다. 각 사용자는 독립적으로 평균이 0인 가우시안 노이즈를 추가하며, 노이즈의 분산은 지수분포에서 샘플링된다; 서버는 사용자 가중치를 추정하여 가중치 기반 집계를 수행하며, 국소적 차별적 비밀보장으로 강력한 개인 정보 보호를 확보하고 고노이즈 상황에서도 높은 유용성을 확보한다.

ABSTRACT

Nowadays, crowd sensing becomes increasingly more popular due to the ubiquitous usage of mobile devices. However, the quality of such human-generated sensory data varies significantly among different users. To better utilize sensory data, the problem of truth discovery, whose goal is to estimate user quality and infer reliable aggregated results through quality-aware data aggregation, has emerged as a hot topic. Although the existing truth discovery approaches can provide reliable aggregated results, they fail to protect the private information of individual users. Moreover, crowd sensing systems typically involve a large number of participants, making encryption or secure multi-party computation based solutions difficult to deploy. To address these challenges, in this paper, we propose an efficient privacy-preserving truth discovery mechanism with theoretical guarantees of both utility and privacy. The key idea of the proposed mechanism is to perturb data from each user independently and then conduct weighted aggregation among users' perturbed data. The proposed approach is able to assign user weights based on information quality, and thus the aggregated results will not deviate much from the true results even when large noise is added. We adapt local differential privacy definition to this privacy-preserving task and demonstrate the proposed mechanism can satisfy local differential privacy while preserving high aggregation accuracy. We formally quantify utility and privacy trade-off and further verify the claim by experiments on both synthetic data and a real-world crowd sensing system.

연구 동기 및 목표

• 기존 커뮤니티 센싱 시스템의 진실 탐색 기법에서 사용자 개인 정보 보호의 부재를 해결한다.
• 사용자 간의 협조나 암호화 없이도 효율적이고 확장 가능한 솔루션을 개발한다.
• 국소적 차별적 비밀보장 기반 이론적 개인 정보 보호 보장을 확보하면서도 집계 결과의 높은 유용성을 유지한다.
• 민감한 정보를 포함할 수 있는 대규모 시스템에서 정확한 진실 탐색을 가능하게 한다.

제안 방법

• 각 사용자는 지수분포에서 샘플링한 노이즈 분산 매개변수 δ²를 선택하고, 해당 분산을 가진 평균 0인 가우시안 노이즈를 센서 데이터에 추가한다.
• 편향된 데이터는 중앙 서버로 전송되며, 서버는 데이터 일관성에서 유추된 사용자 가중치를 기반으로 가중치 기반 집계를 수행한다.
• 사용자 가중치는 반복적으로 계산되며, 각 사용자의 편향된 데이터가 집계 결과와 얼마나 일치하는지에 따라 정보 품질을 반영한다.
• 정확도와 비밀보장 간의 트레이드오프를 정량화하기 위해 (α,β)-유용성 및 (ε,δ)-비밀보장 정의를 사용하여 메커니즘을 공식적으로 분석한다.
• 이론적 분석 결과, 더 큰 노이즈는 비밀보장을 강화하지만 유용성을 감소시키며, 대규모 표본 수에서 수렴 보장을 확보할 수 있다.
• 이 방법은 국소적 차별적 비밀보장을 활용하여 각 사용자가 협조 없이도 독립적으로 데이터를 편향시킬 수 있도록 한다.

실험 결과

연구 질문

• RQ1 보안 다자간 계산이나 암호화 없이도 진실 탐색 기법이 커뮤니티 센싱 시스템에서 사용자 개인 정보를 보호할 수 있는가?
• RQ2 개인 정보 보호를 위해 노이즈가 추가된 데이터에서 사용자 가중치를 효과적으로 추정할 수 있는가?
• RQ3 편향된 진실 탐색에서 유용성(정확도)과 비밀보장(차별적 비밀보장 매개변수) 간의 이론적 트레이드오프는 무엇인가?
• RQ4 개별 사용자 데이터에 상당한 노이즈가 추가된 상황에서도 높은 집계 정확도를 유지할 수 있는가?

주요 결과

• 제안된 메커니즘은 이론적 보장을 바탕으로 국소적 차별적 비밀보장을 충족하며, 강력한 사용자 개인 정보 보호를 보장한다.
• 큰 노이즈 수준에서도 집계 정확도가 약간만 저하되어, 비밀보장 조건 하에서도 높은 유용성을 입증한다.
• c=1일 때, 특정 조건 하에서 α와 λ₁에 대해 표본 수 S가 무한대에 접근함에 따라 집계 결과의 기대 오차는 0으로 수렴한다.
• 이론적 분석을 통해 노이즈 증가가 강력한 비밀보장을 제공하지만 유용성을 감소시킴을 확인하였으며, (α,β)-유용성 및 (ε,δ)-비밀보장 지표를 통해 정량적 트레이드오프를 확인할 수 있다.
• 합성 데이터 및 실세계 내부 평면도 제작 시스템에서의 실험 결과는 고노이즈 상황에서도 뛰어난 성능을 보임을 확인한다.