[논문 리뷰] Privacy-preserving Analysis of Correlated Data.

Yizhen Wang, Shuang Song외 1명|arXiv (Cornell University)|2016. 03. 13.

Privacy-Preserving Technologies in Data참고 문헌 20인용 수 13

한 줄 요약

이 논문은 Pufferfish 프레임워크 하에서 상관관계가 있는 데이터의 프라이버시 보장 분석을 가능하게 하기 위해 워샤르스테인 메커니즘과 마르코프 큐렛 메커니즘을 제안한다. 이는 시간적 시계열 및 네트워크 기반 데이터에 대해 일반적인 해결책과 계산적으로 효율적인 대안을 제공함으로써, 전통적인 차별적 프라이버시를 초월한 프라이버시 보장을 확장한다.

ABSTRACT

Many modern machine learning applications involve sensitive correlated data, such private information on users connected together in a social network, and measurements of physical activity of a single user across time. However, the current standard of privacy in machine learning, differential privacy, cannot adequately address privacy issues in this kind of data. This work looks at a recent generalization of differential privacy, called Pufferfish, that can be used to address privacy in correlated data. The main challenge in applying Pufferfish to correlated data problems is the lack of suitable mechanisms. In this paper, we provide a general mechanism, called the Wasserstein Mechanism, which applies to any Pufferfish framework. Since the Wasserstein Mechanism may be computationally inefficient, we provide an additional mechanism, called Markov Quilt Mechanism, that applies to some practical cases such as physical activity measurements across time, and is computationally efficient.

연구 동기 및 목표

• 사회 네트워크나 시계열 신체 활동 측정치와 같은 민감한 상관관계가 있는 데이터를 다룰 때 기존의 차별적 프라이버시가 실패하는 문제를 해결하기 위해.
• 어떠한 상관관계가 있는 데이터 프레임워크에도 적용 가능한 일반 목적의 Pufferfish 프라이버시 메커니즘을 개발하기 위해.
• 장기적 건강 데이터와 같은 실용적 사례에 적합한 계산적으로 효율적인 메커니즘을 설계하기 위해.
• 이론적 Pufferfish 프라이버시와 실세계의 머신러닝 응용 간의 격차를 메우기 위해, 의존성 구조를 수반하는 응용에 기여하기 위해.

제안 방법

• 최적 운반 이론을 활용하여 프라이버시 泄露를 제한함으로써, 상관관계가 있는 데이터에 대한 Pufferfish 프라이버시의 일반적인 해결책으로 워샤르스테인 메커니즘을 제안한다.
• 워샤르스테인 메커니즘을 어떤 Pufferfish 프레임워크에도 적용하여, 분포 민감도 분석을 통해 프라이버시 보장을 보장한다.
• 시계열 측정치와 같은 마르코프 의존성 데이터에 특화된 효율적인 변종으로 마르코프 큐렛 메커니즘을 도입한다.
• 마르코프 큐렛 메커니즘에서 조건부 독립성 가정을 활용하여 계산 복잡도를 감소시키면서도 프라이버시를 유지한다.
• 데이터 의존성의 구조에 맞게 노이즈 주입을 맞춤형으로 설계하는 메커니즘 설계 접근법을 사용한다.
• Pufferfish 프레임워크가 가능한 비밀과 데이터 구성의 집합을 정의함으로써 프라이버시를 정의할 수 있는 능력을 활용한다.

실험 결과

연구 질문

• RQ1 차별적 프라이버시가 실패하는 상황에서, 상관관계가 있는 데이터에 대해 Pufferfish 프라이버시를 효과적으로 적용할 수 있는 방법은 무엇인가?
• RQ2 어떠한 상관관계가 있는 데이터 구조에도 적용 가능한 일반 메커니즘은 무엇인가?
• RQ3 실제 시계열 데이터에 대해 Pufferfish 프라이버시 하에서 계산적으로 효율적인 메커니즘을 설계할 수 있는가?
• RQ4 실세계의 상관관계가 있는 데이터에 대해, 제안된 메커니즘 간의 프라이버시-유용성 트레이드오프는 어떻게 비교되는가?

주요 결과

• 워샤르스테인 메커니즘은 이론적으로 타당한 일반 목적의 솔루션을 제공하며, 어떤 프레임워크에도 적용 가능한 상관관계가 있는 데이터에 대한 Pufferfish 프라이버시를 보장한다.
• 마르코프 큐렛 메커니즘은 시계열 신체 활동 측정치와 같은 마르코프 의존성 데이터에 대해 뚜렷한 계산적 효율성을 달성한다.
• 양 메커니즘은 i.i.d. 데이터를 초월하여 구조적이고 상관관계가 있는 데이터 유형으로 Pufferfish 프라이버시의 적용 범위를 넓힌다.
• 메커니즘은 확률적 구조를 통해 데이터 의존성을 명시적으로 모델링함으로써 강력한 프라이버시 보장을 보장한다.