[논문 리뷰] Synthetic Data for Social Good

Bill Howe, Julia Stoyanovich외 3명|arXiv (Cornell University)|2017. 10. 24.

Privacy-Preserving Technologies in Data참고 문헌 20인용 수 50

한 줄 요약

논문은 프라이버시를 보장하는 합성 데이터 생성기 DataSynthesizer를 소개하며, 민감한 데이터에서 구조적으로 및 통계적으로 유사한 데이터셋을 생성하고 강력한 프라이버시 보장과 최소한의 사용자 입력으로 임의 협업을 가능하게 한다.

ABSTRACT

Data for good implies unfettered access to data. But data owners must be conservative about how, when, and why they share data or risk violating the trust of the people they aim to help, losing their funding, or breaking the law. Data sharing agreements can help prevent privacy violations, but require a level of specificity that is premature during preliminary discussions, and can take over a year to establish. We consider the generation and use of synthetic data to facilitate ad hoc collaborations involving sensitive data. A good synthetic dataset has two properties: it is representative of the original data, and it provides strong guarantees about privacy. In this paper, we discuss important use cases for synthetic data that challenge the state of the art in privacy-preserving data generation, and describe DataSynthesizer, a dataset generation tool that takes a sensitive dataset as input and generates a structurally and statistically similar synthetic dataset, with strong privacy guarantees, as output. The data owners need not release their data, while potential collaborators can begin developing models and methods with some confidence that their results will work similarly on the real dataset. The distinguishing feature of DataSynthesizer is its usability - in most cases, the data owner need not specify any parameters to start generating and sharing data safely and effectively. The code implementing DataSynthesizer is publicly available on GitHub at https://github.com/DataResponsibly. The work on DataSynthesizer is part of the Data, Responsibly project, where the goal is to operationalize responsibility in data sharing, integration, analysis and use.

연구 동기 및 목표

• 민감한 데이터에 대한 완전한 데이터 공유 계약 없이도 빠르고 안전한 협업을 촉진하고 가능하게 한다.
• 강력한 프라이버시 보장을 제공하는 합성 데이터셋을 생성하는 실용적 도구(DataSynthesizer)를 설명한다.
• 세 가지 작동 모드(상관적, 독립적, 임의)를 제시하고 현실성과 프라이버시의 균형을 설명한다.
• 최소한의 사용자 입력이 필요한 사용성 기능을 강조하고 합성 데이터 품질을 점검하는 메커니즘을 제공한다.
• 실제 데이터 공유 및 거버넌스에 대한 확장과 적용 가능성에 대해 논의한다.

제안 방법

• 데이터Describer 모듈을 통해 비공개 CSV 데이터셋에서 속성 유형과 분포를 유추한다.
• 학습된 확률 모델에서 프라이버시 소음과 함께 샘플링하여 합성 데이터를 생성한다.
• 데이터 합성을 위한 세 가지 모드를 제공한다: 차등 프라이버시 베이지안 네트워크를 이용한 상관 속성 모드, DP 히스토그램을 이용한 독립 속성 모드, 유형 일관 값을 위한 임의 모드.
• 유도된 모델을 데이터셋 설명 파일로 저장하고 샘플링하여 임의 크기의 합성 데이터셋을 생성한다.
• 원본 데이터와 합성 데이터 간의 분포 및 상관 관계를 비교하기 위한 인터페이스(Jupyter/웹 UI)와 시각화 도구를 제공한다.
• 프라이버시 프레임워크(차등 프라이버시)와 사용자를 위한 고유 시드의 필요성에 대한 합리화를 설명한다.

실험 결과

연구 질문

• RQ1 민감한 데이터셋에서 대표적이면서도 프라이버시를 보호하는 합성 데이터를 어떻게 생성할 수 있는가?
• RQ2 다양한 모드(상관적, 독립적, 임의)가 속성 분포 및 상관 관계 보전에 어떤 영향을 미치는가?
• RQ3 정식 데이터 공유 계약이 체결되기 전에 합성 데이터가 초기 협업을 가속화할 수 있는가?
• RQ4 데이터 소유자가 최소한의 구성으로 합성 데이터셋을 생성하고 공유할 수 있도록 하는 필수 사용성 기능은 무엇인가?

주요 결과

• DataSynthesizer는 입력과 구조적으로 및 통계적으로 유사한 합성 데이터셋을 생성하면서도 강력한 프라이버시 보장을 제공할 수 있다.
• 세 가지 작동 모드는 서로 다른 프라이버시-유용성 트레이드오프를 제공한다: 상관 베이지안 네트워크(상관 보존이 높은 경우), 독립 속성 모드(DP 히스토그램 기반 각 속성의 노이즈), 임의 모드(타입 일관 값).
• 도구는 데이터셋 설명 파일을 생성하고 임의의 크기의 합성 데이터를 생성하기 위한 샘플링을 지원한다.
• 원본 데이터와 합성 데이터 간의 분포 및 상관 관계의 유사성을 평가하기 위한 내장 데이터 비교 뷰를 제공한다.
• 이 접근 방식은 오픈 소스이며 안전하게 데이터를 생성하고 공유하기 위한 최소한의 사용자 입력으로 설계되었다.