[논문 리뷰] Synthetic Data: Opening the data floodgates to enable faster, more directed development of machine learning methods

J.B. Jordon, A. Wilson외 1명|arXiv (Cornell University)|2020. 12. 08.

Privacy-Preserving Technologies in Data인용 수 12

한 줄 요약

이 논문은 의료 데이터와 같이 민감한 데이터셋에 특화된 기계학습 연구를 가속화하기 위한 개인정보 보호 기반 솔루션으로 합성 데이터 생성을 제안한다. 특히, DP-GAN 및 PATE-GAN과 같은 차별적 비밀보장 생성 모델을 통해 고해상도이면서도 개인정보가 보장된 합성 데이터를 생성함으로써, 더 넓은 협업과 더 빠른 방법 개발을 가능하게 한다.

ABSTRACT

Many ground-breaking advancements in machine learning can be attributed to the availability of a large volume of rich data. Unfortunately, many large-scale datasets are highly sensitive, such as healthcare data, and are not widely available to the machine learning community. Generating synthetic data with privacy guarantees provides one such solution, allowing meaningful research to be carried out "at scale" - by allowing the entirety of the machine learning community to potentially accelerate progress within a given field. In this article, we provide a high-level view of synthetic data: what it means, how we might evaluate it and how we might use it.

연구 동기 및 목표

• 전자 건강 기록과 같은 대규모 민감 데이터셋에 대한 접근 제한으로 인해 발생하는 기계학습 개발의 성능 저하 문제를 해결하기 위해.
• 기존의 탈식별화 및 k-익명성 기법이 강력한 개인정보 보호를 보장하지 못하고 데이터 유용성을 떨어뜨리는 데서 비롯되는 한계를 극복하기 위해.
• 실제 데이터 보유자와 기계학습 공동체 간의 광범위하고 안전한 협업을 가능하게 하기 위해, 개인정보를 유지하면서도 유용성을 유지하는 합성 데이터 생성을 통해.
• 기계학습의 후속 작업에 유용할 뿐 아니라, 차별적 비밀보장(예: 차별적 비밀보장)을 통한 개인정보 보호가 보장되는 합성 데이터 생성 방법을 개발하고 평가하기 위해.
• GDPR와 같은 규정 하에서 개인정보 정의의 이해를 심화하고, 사회적 및 법적 기대와의 일치를 도모하기 위해.

제안 방법

• 실제 데이터셋으로부터 합성 데이터를 생성하기 위해, 차별적 비밀보장 메커니즘(예: DP-GAN, PATE-GAN)을 통합한 생성적 적대 신경망(GAN)을 사용한다.
• 기본 비교 기준으로 k-익명성을 적용하지만, 데이터 그룹화 및 정보 손실로 인해 유용성과 확장성 측면에서 한계가 있음을 지적한다.
• 상관관계에 따라 변수를 순서 정렬하고 부모 노드에 조건부로 의존하는 트리 구조 그래픽 모델을 사용하여 조건부 확률 모델링을 통해 합성 데이터를 구축한다.
• 각 그룹에 최소 50건의 기록이 포함되도록 하여 50-익명성(50-anonymity)을 강제 적용하지만, 이는 공식적인 유용성 보장을 갖지 못하는 히ュ리스틱 접근 방식이다.
• 일부 방법에서는 요약 통계 및 도메인 전문 지식을 활용하지만, 고차원 또는 혼합형 데이터 처리에 한계가 있음을 언급한다.
• 소음 주입 및 모델 정복 기법과 같은 개인정보 보호 기법을 통합하여, 특히 차별적 비밀보장 프레임워크 하에서 이론적 개인정보 보장 보장을 확보한다.

실험 결과

연구 질문

• RQ1 실제 데이터의 통계적 성질을 유지하면서도 강력한 개인정보 보장을 확보할 수 있는 방식으로 합성 데이터를 생성하는 방법은 무엇인가?
• RQ2 차별적 비밀보장, k-익명성, 소속성 비밀보장과 같은 기존의 개인정보 정의가 데이터 공유에 대한 사회적 및 법적 기대와 어느 정도 일치하는가?
• RQ3 특히 GAN 기반 모델을 사용할 경우, 합성 데이터 생성에서 개인정보 보호와 데이터 유용성 간의 상호 교환 관계는 어떻게 나타나는가?
• RQ4 실제 데이터 접근이 허가되기 전에 합성 데이터가 기계학습 모델의 개발 및 벤치마킹에 효과적으로 기여할 수 있는가?
• RQ5 일반적인 도구로 적용되는 것과는 달리, 합성 데이터 생성을 위해 특별히 개인정보 메커니즘을 재설계하거나 적응시킬 수 있는가?

주요 결과

• 차별적 비밀보장 GAN(DP-GAN 및 PATE-GAN)은 연속형, 이산형, 이진형 데이터를 포함한 혼합형 데이터를 생성하면서도 공식적인 개인정보 보장을 제공하며, 비공식적 또는 히ュ리스틱 방법보다 뛰어난 성능을 보인다.
• 기존의 탈식별화 및 k-익명성 기법은 외부 데이터셋과의 연결 공격을 통해 재식별 공격이 가능하므로 강력한 개인정보 보장을 보장하지 못한다.
• 50-익명성 조건을 적용한 조건부 확률 트리 기반 합성 데이터 생성은 개인정보 보장을 보장하지만, 공식적인 유용성 보장이 없으며 히ュ리스틱 설계 선택에 의존한다.
• 합성 데이터 평가 방법은 제한적이며 일반적으로 후속 작업 성능에 의존하므로, 표준화되고 작업에 종속되지 않은 메트릭이 필요하다.
• 합성 데이터의 활용은 연구자들이 협업자 사전 심사 및 모델 개발을 가속화할 수 있게 하며, 실제 기계학습 응용의 구현까지의 시간을 단축시킬 잠재력을 지닌다.
• 특히 GDPR와 같은 규정 하에서 기술적 개인정보 정의를 사회적 및 법적 개인정보 이해와 일치시킬 필요가 여전히 크며, 이는 신뢰성과 보편적 수용을 보장하기 위함이다.