[論文レビュー] Diffprivlib: The IBM Differential Privacy Library

Naoise Holohan, Stefano Braghin+2 more|arXiv (Cornell University)|Jul 4, 2019

Privacy-Preserving Technologies in Data参考文献 7被引用数 66

ひとこと要約

この論文は Diffprivlib を紹介します。オープンソースの Python ライブラリで、差分プライバシー機構、DP対応の機械学習モデル、データ分析ツールを提供し、NumPyと scikit-learn への密接な統合を実現します。

ABSTRACT

Since its conception in 2006, differential privacy has emerged as the de-facto standard in data privacy, owing to its robust mathematical guarantees, generalised applicability and rich body of literature. Over the years, researchers have studied differential privacy and its applicability to an ever-widening field of topics. Mechanisms have been created to optimise the process of achieving differential privacy, for various data types and scenarios. Until this work however, all previous work on differential privacy has been conducted on a ad-hoc basis, without a single, unifying codebase to implement results. In this work, we present the IBM Differential Privacy Library, a general purpose, open source library for investigating, experimenting and developing differential privacy applications in the Python programming language. The library includes a host of mechanisms, the building blocks of differential privacy, alongside a number of applications to machine learning and other data analytics tasks. Simplicity and accessibility has been prioritised in developing the library, making it suitable to a wide audience of users, from those using the library for their first investigations in data privacy, to the privacy experts looking to contribute their own models and mechanisms for others to use.

研究の動機と目的

• 差分プライバシー研究と応用のための統一された、利用しやすいコードベースの必要性を喚起する。
• DP 機構とモデルを実装する汎用の Python ライブラリを提示する。
• 普及を促進するために、人気のある Python データサイエンスツール（NumPy および scikit-learn）との統合を示す。
• 貢献と探索を促すために、例とチュートリアルを通じて使用法を実証する。

提案手法

• Diffprivlib ライブラリとその設計目標（単純さ、アクセス性、オープンソース）を紹介する。
• 3 つの主要モジュールである mechanisms, models, tools とそれらがどう連携するかを説明する。
• API 設計（例: set_epsilon、set_sensitivity、randomise）と NumPy/Scikit-learn の慣例との緊密な整合性を説明する。
• インストールの詳細（pip install diffprivlib）と既存の Python ツールとの統合を提供する。
• DP トレーニングと評価を示すための作例（Iris における GaussianNB）を提供する。

実験結果

リサーチクエスチョン

• RQ1 diffprivlib に実装されている DP 機構は何で、どのように整理されているのか？
• RQ2 ユーザーはこのライブラリで差分プライバシー機械学習モデルをどのように訓練・評価できるのか？
• RQ3 diffprivlib は NumPy および scikit-learn とどのように統合して DP 実験を促進するのか？
• RQ4 プライバシー漏洩を防ぎ、正しい設定を確保するためにライブラリはどのようなガイダンスを提供するのか？

主な発見

• Diffprivlib は、サブモジュールに分類された幅広い DP 機構を提供します（例：Laplace、Gaussian、Geometric）。
• このライブラリは scikit-learn API を模した DP 対応の機械学習モデルを提供し、ほぼワンライントレーニングを可能にします。
• 差分プライベートヒストグラムと基本統計量のツールが含まれ、NumPy 相当の機能を活用します。
• このパッケージには、PrivacyLeakWarning、DiffprivlibCompatibilityWarning といった警告が含まれ、ユーザーがプライバシー漏洩や互換性の問題を回避できるようにします。
• 作例として、Iris に対する DP Gaussian Naive Bayes を 80/20 の訓練/テスト分割で示し、さまざまな epsilon 値における DP 精度分析を行います。
• ライブラリは MIT ライセンスの下で公開されており、広い利用を想定して設計され、コミュニティの貢献を歓迎します。