[논문 리뷰] Privacy Games: Optimal Protection Mechanism Design for Bayesian and Differential Privacy.

Reza Shokri|arXiv (Cornell University)|2014. 02. 14.

Privacy-Preserving Technologies in Data참고 문헌 30인용 수 4

한 줄 요약

이 논문은 유용성 손실을 최소화하면서 최적의 추론 공격에 대비한 강력한 보호 기능을 제공하는 적응형 오버클로징 메커니즘을 설계한다. 제안된 메커니즘은 메커니즘 설계자와 공격자 간의 리더-팔로워 게임으로 상호작용을 모델링하여 최적의 비밀유지 및 최적의 유용성 달성을 달성하며, 어떤 추론 알고리즘에 대해서도 강건성을 확보한다.

ABSTRACT

In this paper, we design user-centric obfuscation mechanisms that impose the minimum utility loss for guaranteeing user's privacy. We optimize utility subject to a joint guarantee of differential privacy (indistinguishability) and distortion privacy (inference error). This double shield of protection limits the information leakage through obfuscation mechanism as well as the posterior inference. We show that the privacy achieved through joint differential-distortion mechanisms against optimal attacks is as large as the maximum privacy that can be achieved by either of these mechanisms separately. Their utility cost is also not larger than what either of the differential or distortion mechanisms imposes. We model the optimization problem as a leader-follower game between the designer of obfuscation mechanism and the potential adversary, and design adaptive mechanisms that anticipate and protect against optimal inference algorithms. Thus, the obfuscation mechanism is optimal against any inference algorithm.

연구 동기 및 목표

• 유용성 손실을 최소화하면서 강력한 비밀유지 보장을 보장하는 사용자 중심의 오버클로징 메커니즘을 설계한다.
• 서로 다른 보호 기능으로서 차별적 비밀유지(구분 불가능성)와 왜곡 비밀유지(추론 오차)를 동시에 강화하는 이중 보호 메커니즘을 구현한다.
• 오버클로징 설계자와 공격자 간의 상호작용을 리더-팔로워 게임으로 모델링하여 최적의 추론 공격을 사전에 예측한다.
• 공격자의 전략에 적응함으로써 어떤 추론 알고리즘에 대해서도 오버클로징 메커니즘이 최적의 성능을 유지하도록 보장한다.
• 단일 메커니즘으로 사용할 경우보다 비밀유지 수준과 유용성 비용이 열 劣화되지 않음을 입증한다.

제안 방법

• 메커니즘 설계자가 리더, 공격자가 팔로워로 작용하는 리더-팔로워 게임으로 비밀유지 문제를 수리적으로 정의한다.
• 차별적 비밀유지(DP)와 왜곡 비밀유지(DP)를 통합한 공동 비밀유지 제약 조건을 도입하여, 구분 불가능성과 제한된 추론 오차를 동시에 보장한다.
• 게임 이론적 균형 분석을 통해 이중 비밀유지 제약 조건 하에서 유용성 손실을 최소화하는 오버클로징 메커니즘을 최적화한다.
• 공격자가 사용할 수 있는 최적의 추론 알고리즘을 사전에 예측하고 이를 상쇄하는 적응형 오버클로징 전략을 도출한다.
• 수학적 최적화를 통해 공동 제약 조건 하에서 비밀유지와 유용성의 균형을 이룬 최적의 메커니즘을 특성화한다.
• 공동 메커니즘이 별도로 사용된 경우보다 비밀유지 및 유용성 성능이 열 劣화되지 않음을 증명한다.

실험 결과

연구 질문

• RQ1 어떻게 하면 유용성 손실을 최소화하면서 강력한 비밀유지 보장을 확보할 수 있는 오버클로징 메커니즘을 설계할 수 있는가?
• RQ2 단일 메커니즘 내에서 차별적 비밀유지와 왜곡 비밀유지를 통합할 경우, 비밀유지-유용성 트레이드오프는 어떻게 변화하는가?
• RQ3 공동 비밀유지 메커니즘이 개별 메커니즘 대비 비밀유지 및 유용성 측면에서 성능을 뛰어나거나 적어도 동등하게 유지할 수 있는가?
• RQ4 리더-팔로워 게임로 상호작용을 모델링함으로써 오버클로징 메커니즘의 강건성이 최적의 추론 공격에 대해 어떻게 향상되는가?
• RQ5 공동 메커니즘이 어떤 추론 알고리즘에 대해서도 최적일 수 있으며, 이를 단독 메커니즘과 비교할 경우 어떻게 다른가?

주요 결과

• 공동 차별-왜곡 비밀유지 메커니즘은 개별 메커니즘 중 가장 우수한 성능을 보이는 것과 동일한 수준의 비밀유지 수준을 달성하며, 비밀유지 보장을 훼손하지 않는다.
• 공동 메커니즘의 유용성 비용은 개별적으로 차별적 비밀유지 또는 왜곡 비밀유지 메커니즘을 사용했을 때의 비용보다 높지 않다.
• 제안된 오버클로징 메커니즘은 게임 이론적 설계를 통해 공격자의 최적 전략을 사전에 예측하고 대응함으로써 어떤 추론 알고리즘에 대해서도 최적의 성능을 발휘한다.
• 메커니즘의 성능은 강건하다: 공격자가 가장 효과적인 추론 알고리즘을 사용하더라도 강력한 비밀유지를 유지한다.
• 이론적 분석을 통해 공동 메커니즘이 비밀유지와 유용성 간의 파레토 최적 트레이드오프를 제공함을 확인한다.
• 프레임워크는 위협 모델에 따라 동적으로 조정되는 적응형 오버클로징을 가능하게 하여 불확실성 하에서도 최적의 보호 기능을 보장한다.