[論文レビュー] Aggregating Votes with Local Differential Privacy: Usefulness, Soundness vs. Indistinguishability

Shaowei Wang, Jiachun Du+6 more|arXiv (Cornell University)|Aug 14, 2019

Privacy-Preserving Technologies in Data参考文献 73被引用数 7

ひとこと要約

本稿では、ローカル差分プライバシー下での票集約の有用性と整合性を向上させるために、重み付きサンプリングおよび加法的メカニズムの2つの新規メカニズムを提案する。これらは、推定誤差を最大50%まで低減し、データ増幅やビュー偽装攻撃といった戦略的攻撃を緩和することで、ナイーブなラプラスメカニズムを上回る。これらの手法は、さまざまなプライバシー予算下でも、Borda投票における誤差境界をより厳密に抑え、改ざんリスクを低減する。

ABSTRACT

Voting plays a central role in bringing crowd wisdom to collective decision making, meanwhile data privacy has been a common ethical/legal issue in eliciting preferences from individuals. This work studies the problem of aggregating individual's voting data under the local differential privacy setting, where usefulness and soundness of the aggregated scores are of major concern. One naive approach to the problem is adding Laplace random noises, however, it makes aggregated scores extremely fragile to new types of strategic behaviors tailored to the local privacy setting: data amplification attack and view disguise attack. The data amplification attack means an attacker's manipulation power is amplified by the privacy-preserving procedure when contributing a fraud vote. The view disguise attack happens when an attacker could disguise malicious data as valid private views to manipulate the voting result. In this work, after theoretically quantifying the estimation error bound and the manipulating risk bound of the Laplace mechanism, we propose two mechanisms improving the usefulness and soundness simultaneously: the weighted sampling mechanism and the additive mechanism. The former one interprets the score vector as probabilistic data. Compared to the Laplace mechanism for Borda voting rule with $d$ candidates, it reduces the mean squared error bound by half and lowers the maximum magnitude risk bound from $+\infty$ to $O(\frac{d^3}{nε})$. The latter one randomly outputs a subset of candidates according to their total scores. Its mean squared error bound is optimized from $O(\frac{d^5}{nε^2})$ to $O(\frac{d^4}{nε^2})$, and its maximum magnitude risk bound is reduced to $O(\frac{d^2}{nε})$. Experimental results validate that our proposed approaches averagely reduce estimation error by $50\%$ and are more robust to adversarial attacks.

研究の動機と目的

• ローカル差分プライバシー下でのラプラスノイズベースの票集約の脆弱性、特に戦略的攻撃への耐性を改善すること。
• 悪意ある行動が存在する中での集約票の結果の有用性と整合性を向上させること。
• ローカル差分プライバシー機構における推定誤差と改ざんリスクを理論的に評価・低減すること。
• データ増幅およびビュー偽装攻撃に対して耐性を持ちながら、高い正確性を維持するメカニズムを提案すること。
• ローカルプライバシー制度における有用性、整合性、不識別性の間のトレードオフを明らかにすること。

提案手法

• 重み付きサンプリングメカニズムは、スコアベクトルを確率的分布として解釈し、重み付きサンプリングを用いて順位構造を保持するプライベートなビューを生成する。
• 加法的メカニズムは、合計スコアに基づいて候補者の中からランダムに部分集合を出力する。これによりノイズへの感受性が低下し、耐性が向上する。
• 両メカニズムは、ローカル差分プライバシー制約下で平均二乗誤差と最大絶対値リスクを最小化するように設計されている。
• 理論的分析により、改善された誤差境界が導出された：平均二乗誤差はO(d⁴/nε²)、最大絶対値リスクはO(d²/nε)。これはラプラスメカニズムのO(d⁵/nε²)およびO(d³/nε)と比較して改善されたものである。
• 候補者数、投票者数、悪意ある設定の変動を想定した評価により、性能向上が検証された。
• 理論的境界は、差分プライバシーの保証と統計的推定理論を用いて導出され、Borda投票ルールに焦点を当てている。

実験結果

リサーチクエスチョン

• RQ1 ローカル差分プライバシー下での票集約において、ラプラスメカニズムの推定誤差と悪意ある改ざん攻撃への脆弱性はどのように評価できるか？
• RQ2 ローカル差分プライバシー下での票集約において、有用性と整合性を同時に向上させるメカニズムを設計可能か？
• RQ3 データ増幅およびビュー偽装攻撃が、プライベートな票集約の正確性と耐性に与える影響は何か？
• RQ4 提案されたメカニズムは、ラプラスメカニズムと比較して、推定誤差と改ざんリスクをどのように低減するか？
• RQ5 Borda投票下で、提案されたメカニズムの誤差とリスクの理論的境界は何か？

主な発見

• 重み付きサンプリングメカニズムは、Borda投票下でラプラスメカニズムと比較して平均二乗誤差境界を半分に低減した。
• 重み付きサンプリングメカニズムでは最大絶対値リスク境界が+∞からO(d³/nε)に低下したのに対し、ラプラスではO(d³/nε)のままであった。
• 加法的メカニズムは、平均二乗誤差境界をO(d⁵/nε²)からO(d⁴/nε²)に低減し、d倍の改善を達成した。
• 加法的メカニズムは最大絶対値リスク境界をO(d²/nε)に低減し、悪意ある改ざん攻撃に対する耐性が著しく向上した。
• 実験では推定誤差が平均50%低減し、データ増幅およびビュー偽装攻撃の両方に対して優れた耐性を示した。
• 100,000人の投票者を想定した場合、すべてのメカニズムが低プライバシー予算（ε < 1.0）でもほぼ100%の勝者正確性を達成しており、スケーラビリティと耐性の両面で優れた性能を示した。