[논문 리뷰] Diffprivlib: The IBM Differential Privacy Library

Naoise Holohan, Stefano Braghin외 2명|arXiv (Cornell University)|2019. 07. 04.

Privacy-Preserving Technologies in Data참고 문헌 7인용 수 66

한 줄 요약

Diffprivlib은 differential privacy 메커니즘, DP 사용 가능한 머신 러닝 모델, 데이터 분석 도구를 제공하고 NumPy와 scikit-learn과의 긴밀한 통합을 갖춘 오픈 소스 파이썬 라이브러리입니다.

ABSTRACT

Since its conception in 2006, differential privacy has emerged as the de-facto standard in data privacy, owing to its robust mathematical guarantees, generalised applicability and rich body of literature. Over the years, researchers have studied differential privacy and its applicability to an ever-widening field of topics. Mechanisms have been created to optimise the process of achieving differential privacy, for various data types and scenarios. Until this work however, all previous work on differential privacy has been conducted on a ad-hoc basis, without a single, unifying codebase to implement results. In this work, we present the IBM Differential Privacy Library, a general purpose, open source library for investigating, experimenting and developing differential privacy applications in the Python programming language. The library includes a host of mechanisms, the building blocks of differential privacy, alongside a number of applications to machine learning and other data analytics tasks. Simplicity and accessibility has been prioritised in developing the library, making it suitable to a wide audience of users, from those using the library for their first investigations in data privacy, to the privacy experts looking to contribute their own models and mechanisms for others to use.

연구 동기 및 목표

• 차별 프라이버시 연구와 응용을 위한 통합되고 접근 가능한 코드베이스의 필요성을 제시한다.
• DP 메커니즘과 모델을 구현하는 범용 Python 라이브러리를 제시한다.
• 채택을 용이하게 하기 위해 널리 사용되는 Python 데이터 과학 도구(NumPy 및 scikit-learn)와의 통합을 보여준다.
• 참여와 탐색을 촉진하기 위해 예제와 튜토리얼을 통해 사용법을 시연한다.

제안 방법

• Diffprivlib 라이브러리와 그 설계 목표(단순성, 접근성, 오픈 소스)를 소개한다.
• 주요 세 모듈인 mechanisms, models, tools와 이들이 어떻게 상호 작용하는 방식.
• API 설계(e.g., set_epsilon, set_sensitivity, randomise)와 NumPy/Scikit-learn의 규칙에 대한 밀접한 정합성을 설명한다.
• 설치 방법(pip install diffprivlib)과 기존 Python 도구와의 통합을 제공한다.
• DP 학습 및 평가를 설명하기 위한 예제( Iris의 GaussianNB) 를 제공합니다.

실험 결과

연구 질문

• RQ1 diffprivlib에 구현된 DP 메커니즘은 무엇이며 어떻게 구성되어 있는가?
• RQ2 사용자는 이 라이브러리로 차등 프라이버시가 적용된 머신 러닝 모델을 어떻게 학습하고 평가할 수 있는가?
• RQ3 diffprivlib는 DP 실험을 촉진하기 위해 NumPy와 scikit-learn과 어떻게 통합되어 있는가?
• RQ4 라이브러리는 개인정보 누출을 방지하고 올바른 구성을 보장하기 위해 어떤 지침을 제공하는가?

주요 결과

• Diffprivlib은 하위 모듈로 묶인 광범위한 DP 메커니즘을 제공한다(예: Laplace, Gaussian, Geometric).
• 라이브러리는 scikit-learn API를 모방한 DP 사용 가능 머신 러닝 모델을 제공하여 거의 한 줄의 모델 적합을 가능하게 한다.
• 차등 프라이버시 히스토그램 및 기본 통계 도구가 포함되어 있으며 NumPy와 동등한 기능을 활용한다.
• 패키지는 PrivacyLeakWarning, DiffprivlibCompatibilityWarning 같은 경고를 포함하여 사용자가 프라이버시 누출과 비호환성을 피하도록 돕는다.
• 작업 예제는 Iris에서 DP Gaussian Naive Bayes를 80/20 학습/테스트 분할로 시연하고 다양한 epsilon 값에 따른 DP 정확도 분석을 보여준다.
• 이 라이브러리는 MIT 라이선스 하에 배포되며 넓은 접근성을 위해 설계되었고 커뮤니티 기여를 환영한다.