[論文レビュー] Tumult Analytics: a robust, easy-to-use, scalable, and expressive framework for differential privacy

Skye Berghel, Philip Bohannon+11 more|arXiv (Cornell University)|Dec 8, 2022

Privacy-Preserving Technologies in Data被引用数 7

ひとこと要約

Tumult Analytics は、機微なデータセットに微分プライバシーを適用するための堅牢でスケーラブルで使いやすいインターフェースを提供する Python フレームワークです。拡張性のある Tumult Core の基盤に基づき、モジュラーな測定、変換、プライバシー会計を通じてエンドツーエンドのプライバシー保証を実現し、プライベートジョインや zCDP やカスタム近接関係といった高度なプライバシー概念をサポートします。

ABSTRACT

In this short paper, we outline the design of Tumult Analytics, a Python framework for differential privacy used at institutions such as the U.S. Census Bureau, the Wikimedia Foundation, or the Internal Revenue Service.

研究の動機と目的

• データサイエンティストがプライバシー理論や高度な数学の専門知識を必要とせずに微分プライバシーを適用できるフレームワークを設計すること。
• プライバシー会計と安定性の推論を計算パイプラインに直接統合することで、強力なエンドツーエンドのプライバシー保証を確保すること。
• 非プライベート分析と同等のパフォーマンスとリソース使用量を実現することで、実世界のスケーラブルなデータワークロードをサポートすること。
• 新しいプライバシー概念（例：zCDP、Rényi DP）、オペレータ（例：プライベートジョイン）および会計手法を、アーキテクチャの大幅な見直しを伴わずに拡張可能にすること。
• 既存のオープンソース DP フレームワークの限界、たとえばスケーラビリティの欠如、エンドツーエンドのプライバシー証明の不在、拡張性の不足を解消すること。

提案手法

• Tumult Core がプライバシーの基盤を担い、入力メトリクス、出力測度、プライバシー関数を用いて測定をモデル化することで、標準定義を超えた微分プライバシーの一般化を実現します。
• 変換（例：フィルタ、マップ、ジョイン）は、入力と出力間の距離を関連付ける安定性関数でモデル化され、合成的推論が可能になります。
• プライバシーおよび安定性の性質がパイプライン全体にわたって帰納的に合成され、プライベートジョインやカスタム近接関係を含む複雑なクエリについてもエンドツーエンドのプライバシー証明が可能になります。
• フレームワークは、標準 DP、zCDP、近似 DP などの複数のプライバシー概念をサポートしており、新しいバリエーションに対しても拡張可能な会計が可能になっています。
• Tumult Analytics は、Tumult Core を抽象化した高レベルの Python オリエンテッド API を提供し、ユーザーが '郵便番号ごとの平均収入' のようなクエリを、最小限のプライバシー固有コードで記述できるようにします。
• プライベートジョインは、テーブル集合における新しいメトリクスを用いて実装されており、プライバシーIDを必要とせず、ジョイン操作の正しいプライバシー解析が可能になっています。

実験結果

リサーチクエスチョン

• RQ1 微分プライバシーのフレームワークは、非専門家ユーザーにとってもアクセス可能でありながら、表現力が高く形式的検証が可能なように、どのように設計できるか？
• RQ2 モジュラーなフレームワークは、プライバシーに重要な論理とデータ処理を分離しつつ、エンドツーエンドのプライバシー保証をどのように確保できるか？
• RQ3 プライベートジョインのような複雑な操作は、合成的プライバシー会計システム内でどのように形式的にサポートできるか？
• RQ4 新しいプライバシー概念（例：zCDP、Rényi DP）および新しいオペレータをサポートするためのアーキテクチャ的選択肢は、後方互換性を損なわずどのように実現できるか？
• RQ5 スケール上で、このフレームワークのパフォーマンスとリソース使用量は、非プライベート分析および他のオープンソース DP ライブラリと比べてどうなるか？

主な発見

• Tumult Analytics を用いることで、データサイエンティストは微分プライバシー理論の専門知識を必要とせずに、大規模なデータセットに対して微分プライバシー分析を実行できます。
• Tumult Core における合成的推論により、プライベートジョインやカスタム近接関係を含む複雑なパイプラインに対してもエンドツーエンドのプライバシー保証が提供され、正しさが保証されます。
• Tumult Core がプライバシー関数とメトリクスを抽象化することで、アーキテクチャの変更なしに zCDP や近似 DP といった複数のプライバシー概念をサポートできます。
• このフレームワークは、米国国勢調査局、IRS、ウィキメディア財団など、実際のワークロード（例：プライベートSQLクエリ、集計レポート）を含む生産環境で正常に稼働しています。
• Tumult Analytics は、Spark を基盤として構築されているため、OpenDP や diffprivlib よりもスケーラビリティに優れており、メモリ内処理の制限を回避できます。
• zCDP およびプライベートジョインのサポートを数週間で追加できたことで、拡張性が実証されました。一方、GoogleDP や PipelineDP では、拡張に深い変更が必要です。