[論文レビュー] Advancing Differential Privacy: Where We Are Now and Future Directions for Real-World Deployment

Rachel Cummings, Damien Desfontaines+22 more|arXiv (Cornell University)|Apr 14, 2023

Privacy, Security, and Data Protection被引用数 9

ひとこと要約

ワークショップに基づく、業界規模のシステムにおける差分プライバシーの展開に関する課題、ツールのニーズ、研究の方向性のワークショップに基づく概要で、インフラストラクチャ、プライバシー/実用性のトレードオフ、監査、保証の伝達に重点を置く。

ABSTRACT

In this article, we present a detailed review of current practices and state-of-the-art methodologies in the field of differential privacy (DP), with a focus of advancing DP's deployment in real-world applications. Key points and high-level contents of the article were originated from the discussions from "Differential Privacy (DP): Challenges Towards the Next Frontier," a workshop held in July 2022 with experts from industry, academia, and the public sector seeking answers to broad questions pertaining to privacy and its implications in the design of industry-grade systems. This article aims to provide a reference point for the algorithmic and design decisions within the realm of privacy, highlighting important challenges and potential research directions. Covering a wide spectrum of topics, this article delves into the infrastructure needs for designing private systems, methods for achieving better privacy/utility trade-offs, performing privacy attacks and auditing, as well as communicating privacy with broader audiences and stakeholders.

研究の動機と目的

• 産業界および公共部門の文脈における差分プライバシー（DP）の展開における主要な実用的課題を整理する。
• 専門家以外の人々による導入を支援するDPツールとインフラの要望事項を特定する。
• DPアルゴリズムとシステムのプライバシー/実用性のトレードオフとスケーラビリティを改善するための研究方向を概説する。
• DP実装を検証するための監査、攻撃、ベンチマーキングの方法を議論する。
• 実世界の制約を考慮しつつ、エンドユーザーや利害関係者にDP保証を伝える方法を探る。

提案手法

• 2022年7月のDPワークショップ（産業界、学界、公共部門の参加者を含む）からの洞察を統合する。
• 展開における実用的課題を詳述し、ツール開発、ベンチマーキング、使いやすさのための研究課題を提案する。
• エンドツーエンドのシステムにDPを実装する際の指針を提供し、脅威モデルや組み合わせの考慮を含む。
• DPの導入と有効性を高めるための公開データの利用、データ最小化、インフラ設計について議論する。」],
• research_questions([
• What are the key challenges and barriers to real-world deployment of differential privacy across industries?
• What tooling, infrastructure, and process improvements are needed to support scalable and usable DP systems?
• How can DP trade-offs be improved through public data, data-adaptive methods, and DP-enabled pipelines?
• How can we effectively audit, attack-test, and benchmark DP deployments to validate guarantees?
• How should DP guarantees be communicated to end-users and stakeholders in practice?

実験結果

リサーチクエスチョン

• RQ1 産業界全般における実世界での差分プライバシーの展開における主要な課題と障壁は何か？
• RQ2 スケーラブルで使いやすいDPシステムを支援するために必要なツール、インフラ、プロセスの改善は何か？
• RQ3 公開データ、データ適応型手法、DP対応パイプラインを通じてDPのトレードオフをどう改善できるか？
• RQ4 保証を検証するためにDP展開を効果的に監査、攻撃テスト、ベンチマークするにはどうすればよいか？
• RQ5 実務においてDP保証をエンドユーザーと利害関係者にどう伝えるべきか？

主な発見

• DPは統計分析とMLの主要なプライバシー概念となっているが、実世界の採用は脅威モデリング、パラメータ選択、統合、費用の課題に直面している。
• 堅牢なDPツールは、使いやすさ、オープンソース実装による信頼性、多様なプライバシーユニットのサポート、および大規模データセットへのスケーラビリティに焦点を当てるべきである。
• 公開データとデータ適応/転移学習アプローチは、特にモデルの事前学習とプライベートな微調整においてDPの有用性を改善する可能性がある。
• 監査と攻撃は情報漏えいを抑制し、パラメータ選択をガイドするうえで有用だが、最悪ケース保証を置換するものではなく、慎重に解釈する必要がある。
• 効果的なプライバシー伝達には、データ最小化と透明性を含むより大きなプライバシー戦略の一部としてDPを位置づけ、方針および規制上の配慮に留意する必要がある。