[논문 리뷰] Aggregating Votes with Local Differential Privacy: Usefulness, Soundness vs. Indistinguishability

Shaowei Wang, Jiachun Du외 6명|arXiv (Cornell University)|2019. 08. 14.

Privacy-Preserving Technologies in Data참고 문헌 73인용 수 7

한 줄 요약

이 논문은 국소적 차별적 프라이버시 하에서 투표 집계의 유용성과 타당성을 향상시키기 위해 가중 샘플링과 추가 메커니즘이라는 두 가지 새로운 메커니즘을 제안한다. 이는 나이브한 라플라스 메커니즘보다 추정 오차를 최대 50% 감소시키고, 데이터 증폭 및 시각 위장 공격과 같은 전략적 공격을 완화한다. 이 메커니즘들은 다양한 프라이버시 예산 하에서 보르다 투표에서 더 날카운 오차 한계와 낮은 조작 위험을 달성한다.

ABSTRACT

Voting plays a central role in bringing crowd wisdom to collective decision making, meanwhile data privacy has been a common ethical/legal issue in eliciting preferences from individuals. This work studies the problem of aggregating individual's voting data under the local differential privacy setting, where usefulness and soundness of the aggregated scores are of major concern. One naive approach to the problem is adding Laplace random noises, however, it makes aggregated scores extremely fragile to new types of strategic behaviors tailored to the local privacy setting: data amplification attack and view disguise attack. The data amplification attack means an attacker's manipulation power is amplified by the privacy-preserving procedure when contributing a fraud vote. The view disguise attack happens when an attacker could disguise malicious data as valid private views to manipulate the voting result. In this work, after theoretically quantifying the estimation error bound and the manipulating risk bound of the Laplace mechanism, we propose two mechanisms improving the usefulness and soundness simultaneously: the weighted sampling mechanism and the additive mechanism. The former one interprets the score vector as probabilistic data. Compared to the Laplace mechanism for Borda voting rule with $d$ candidates, it reduces the mean squared error bound by half and lowers the maximum magnitude risk bound from $+\infty$ to $O(\frac{d^3}{nε})$. The latter one randomly outputs a subset of candidates according to their total scores. Its mean squared error bound is optimized from $O(\frac{d^5}{nε^2})$ to $O(\frac{d^4}{nε^2})$, and its maximum magnitude risk bound is reduced to $O(\frac{d^2}{nε})$. Experimental results validate that our proposed approaches averagely reduce estimation error by $50\%$ and are more robust to adversarial attacks.

연구 동기 및 목표

• 국소적 차별적 프라이버시 하에서 라플라스 노이즈 기반 투표 집계의 취약성을 해결하기 위해, 특히 전략적 공격에 대비한다.
• 악성 행동이 존재하는 상황에서 집계된 투표 결과의 유용성과 타당성을 향상시키기 위해.
• 국소적 차별적 프라이버시 메커니즘에서 추정 오차와 조작 위험을 이론적으로 정량화하고 감소시키기 위해.
• 데이터 증폭 및 시각 위장 공격에 저항하면서도 높은 정확도를 유지하는 메커니즘을 제안하기 위해.
• 국소 프라이버시 시스템에서 유용성, 타당성, 불가구분성 간의 상호 교환 관계를 탐색하기 위해.

제안 방법

• 가중 샘플링 메커니즘은 점수 벡터를 확률 분포로 간주하고, 순서 구조를 유지하는 가중 샘플링을 통해 비밀스러운 시각을 생성한다.
• 추가 메커니즘은 총 점수 기반으로 후보자 중 무작위 부분집합을 출력하여 노이즈 민감도를 낮추고 강건성을 향상시킨다.
• 두 메커니즘은 국소적 차별적 프라이버시 제약 하에서 평균 제곱 오차와 최대 크기 위험을 최소화하도록 설계되었다.
• 이론적 분석을 통해 향상된 오차 한계를 도출하였다: 평균 제곱 오차의 경우 O(d⁴/nε²), 최대 크기 위험의 경우 O(d²/nε)이며, 이는 라플라스 메커니즘의 O(d⁵/nε²) 및 O(d³/nε)와 비교해 개선된 것이다.
• 성능 향상을 검증하기 위해 후보자 수, 투표자 수, 악성 설정을 다양하게 변화시켜 평가하였다.
• 이론적 한계는 차별적 프라이버시 보장과 통계적 추정 이론을 기반으로 도출되었으며, 주로 보르다 투표 규칙을 중심으로 다뤘다.

실험 결과

연구 질문

• RQ1 국소적 차별적 프라이버시 하에서 투표 집계에 대해 라플라스 메커니즘은 추정 오차와 악성 조작에 대한 취약성 측면에서 어떻게 성능을 보이는가?
• RQ2 국소적 차별적 프라이버시 투표 집계에서 동시에 유용성과 타당성을 향상시키는 메커니즘을 설계할 수 있는가?
• RQ3 데이터 증폭 및 시각 위장 공격은 개인 정보 보호 투표 집계의 정확도와 강건성에 어떤 영향을 미치는가?
• RQ4 제안된 메커니즘은 라플라스 메커니즘에 비해 추정 오차와 조작 위험을 어떻게 감소시키는가?
• RQ5 보르다 투표 하에서 제안된 메커니즘의 오차와 위험에 대한 이론적 한계는 무엇인가?

주요 결과

• 가중 샘플링 메커니즘은 보르다 투표에서 라플라스 메커니즘 대비 평균 제곱 오차 한계를 절반으로 줄였다.
• 최대 크기 위험 한계는 가중 샘플링 메커니즘에서 +∞에서 O(d³/nε)로 감소하였으며, 이는 라플라스 메커니즘의 O(d³/nε)와 동일한 수준이다.
• 추가 메커니즘은 평균 제곱 오차 한계를 O(d⁵/nε²)에서 O(d⁴/nε²)로 감소시켜 d배의 향상 효과를 달성하였다.
• 추가 메커니즘은 최대 크기 위험 한계를 O(d²/nε)로 감소시켜 악성 조작에 대한 강건성을 크게 향상시켰다.
• 실험 결과 평균 추정 오차가 50% 감소하고, 데이터 증폭 및 시각 위장 공격 모두에 대해 뛰어난 저항성을 보였다.
• 100,000명의 투표자가 있을 경우, 모든 메커니즘은 낮은 프라이버시 예산(ε < 1.0)에서도 거의 100%의 승자 정확도를 달성하여 확장성과 강건성을 입증했다.