[論文レビュー] Privacy-Preserving Transactions with Verifiable Local Differential Privacy

Movsowitz Davidow, Danielle, Manevich, Yacov+1 more|arXiv (Cornell University)|Aug 18, 2022

Privacy-Preserving Technologies in Data被引用数 3

ひとこと要約

本稿では、信頼できる統合者またはマルチパーティ計算（MPC）サーバーが、微分プライバシー（DP）統計が正しく、秘密のノイズを用いて忠実に計算されたことを保証するゼロ知識証明を公開できる、検証可能微分プライバシー（VDP）というフレームワークを紹介する。この手法は、プライベートなランダムネスとパブリックなランダムネスを組み合わせることで、強いプライバシーとパブリックな検証可能性を両立させ、アクティブな敵対者モデルにおいて検証可能DPを実現するための計算的仮定が不可欠であることを証明する。

ABSTRACT

Differential Privacy (DP) is often presented as a strong privacy-enhancing technology with broad applicability and advocated as a de-facto standard for releasing aggregate statistics on sensitive data. However, in many embodiments, DP introduces a new attack surface: a malicious entity entrusted with releasing statistics could manipulate the results and use the randomness of DP as a convenient smokescreen to mask its nefariousness. Since revealing the random noise would obviate the purpose of introducing it, the miscreant may have a perfect alibi. To close this loophole, we introduce the idea of extit{Verifiable Differential Privacy}, which requires the publishing entity to output a zero-knowledge proof that convinces an efficient verifier that the output is both DP and reliable. Such a definition might seem unachievable, as a verifier must validate that DP randomness was generated faithfully without learning anything about the randomness itself. We resolve this paradox by carefully mixing private and public randomness to compute verifiable DP counting queries with theoretical guarantees and show that it is also practical for real-world deployment. We also demonstrate that computational assumptions are necessary by showing a separation between information-theoretic DP and computational DP under our definition of verifiability.

研究の動機と目的

• 微分プライバシーにおける深刻なセキュリティギャップに対処する。具体的には、悪意ある統合者がDPノイズを操作して結果をバイアスするが、ノイズのランダムネスを盾に隠ぺいする可能性がある。
• DPで計算された統計が、プライバシーを保つだけでなく、第三者が検証可能であることを保証し、ノイズを改ざんのシールドとして悪用されるのを防ぐ。
• アクティブな敵対者を想定した信頼できる統合者およびクライアント・サーバーMPC設定において、検証可能微分プライバシーを形式化し、半誠実な脅威モデルを超えて拡張する。
• 情報理論的検証可能DPは不可能であることを示し、検証可能であるためには計算的仮定が不可欠であることを証明する。
• 二項分布を用いたノイズとパブリックなランダムネスを活用し、効率的かつ正確な検証可能DPカウンティングクエリ（ヒストグラム）のための実用的プロトコルを設計する。

提案手法

• 発表主体が、DPノイズが忠実に生成されたことを示すゼロ知識証明を出力する必要があるという、新たなセキュリティモデルを導入する。この証明はノイズそのものを露呈しない。
• 信頼できる統合者モデルにおいて、ユーザー入力からのプライベートなランダムネスと、信頼できるソースからのパブリックなランダムネスを組み合わせ、検証可能なDPヒストグラムを計算する。
• 独立したベルヌーイ試行から構築された二項分布をノイズ源として用い、統計的検査により効率的な検証を可能にする。
• クライアントが入力を秘密分散し、K ≥ 2のサーバーが共同でDPヒストグラムと検証可能な証明を計算するマルチパーティ計算（MPC）プロトコルを設計する。
• SNARKsや類似のゼロ知識証明システムを活用し、個人データやノイズを露呈せずにDP計算の正しさを効率的に検証可能にする。
• 情報理論的仮定のもとでは検証可能DPが不可能であることを証明し、情報理論的検証可能DPと計算的検証可能DPの間に明確な分離を確立する。

実験結果

リサーチクエスチョン

• RQ1 悪意ある統合者が、DPに内在するランダムネスを隠れみのとして利用し、集計統計をバイアスしながらも検出されない可能性はあるか？
• RQ2 ノイズ生成の正しさを、ユーザーのプライバシーを損なわずに第三者が公開で検証できるDPプロトコルを設計することは可能か？
• RQ3 アクティブな敵対者を想定した状況で、検証可能微分プライバシーを達成するために必要な最小限の暗号的仮定は何か？
• RQ4 二項分布のような単純なノイズ分布を用いて検証可能DPを達成できるか？それとも、ラプラス分布やガウス分布のようなより複雑なノイズでは検証が非効率的になるか？
• RQ5 不誠実な多数派を想定したMPCを用いることで、DP計算におけるセキュリティと検証可能性の両立が可能か？

主な発見

• 計算的仮定を用いることで検証可能微分プライバシーは達成可能であり、情報理論的検証可能DPは不可能であることを証明した。
• 提案されたプロトコルは、統合者が悪意を持っていても、ノイズ生成の不正が検証者によって検出可能であることを保証する。
• パブリックなランダムネスとプライベートなランダムネスの組み合わせにより、効率的かつパブリックに検証可能なDPカウンティングクエリが実現できる。
• プロトコルは、信頼できる統合者DPと同等の最適な誤差バウンダを維持し、MPCのみのアプローチで見られる精度の低下を回避する。
• このフレームワークは、信頼できる統合者およびマルチパーティ計算設定をカバーし、アクティブな敵対者を想定した公開監査性を実現する。
• 情報理論的検証可能DPと計算的検証可能DPの間に明確な分離を確立し、実用的な検証可能性を達成するには後者が不可欠であることを示した。