[논문 리뷰] Optimal User-Centric Data Obfuscation

Reza Shokri|arXiv (Cornell University)|2014. 02. 14.

Privacy-Preserving Technologies in Data인용 수 8

한 줄 요약

이 논문은 유저 중심의 데이터 왜곡 프레임워크를 제안하며, 유틸리티 손실을 최소화하면서 개인정보 보호를 극대화하기 위해 차별적 비밀리어티와 왜곡 비밀리어티를 공동으로 강제한다. 왜곡기와 적대자 간의 리더-팔로워 게임으로 상호작용를 모델링함으로써, 최적의 추론 공격에 대비한 적응형 메커니즘을 설계하여, 개별 방법보다 우월하거나 동일한 수준의 개인정보 보호를 달성하며, 유틸리티 비용 증가 없이도 성능을 확보한다.

ABSTRACT

In this paper, we design user-centric obfuscation mechanisms that impose the minimum utility loss for guaranteeing user's privacy. We optimize utility subject to a joint guarantee of differential privacy (indistinguishability) and distortion privacy (inference error). This double shield of protection limits the information leakage through obfuscation mechanism as well as the posterior inference. We show that the privacy achieved through joint differential-distortion mechanisms against optimal attacks is as large as the maximum privacy that can be achieved by either of these mechanisms separately. Their utility cost is also not larger than what either of the differential or distortion mechanisms imposes. We model the optimization problem as a leader-follower game between the designer of obfuscation mechanism and the potential adversary, and design adaptive mechanisms that anticipate and protect against optimal inference algorithms. Thus, the obfuscation mechanism is optimal against any inference algorithm.

연구 동기 및 목표

• 사용자에게 강력한 개인정보 보호 보장을 보장하면서 유틸리티 손실를 최소화하는 데이터 왜곡 메커니즘을 설계하는 것.
• 왜곡 유출과 사후 추론 공격에 모두 대비하기 위해 차별적 비밀리어티와 왜곡 비밀리어티를 공동으로 강제하는 것.
• 왜곡 과정을 왜곡기와 적대자 간의 리더-팔로워 게임으로 모델링하여 최적의 추론 전략을 예측하는 것.
• 어떤 추론 알고리즘에 대해서도 최적인 적응형 왜곡 메커니즘을 개발하는 것.
• 합성된 개인정보 보호 메커니즘이 개별 방법 중 최고의 성능을 내는 것과 동일한 수준의 개인정보 보호를 달성할 수 있으며, 유틸리티 비용이 증가하지 않는다는 것을 입증하는 것.

제안 방법

• 왜곡기의 행동을 먼저 결정하고, 적대자의 최적 추론 전략을 예측하는 리더-팔로워 게임으로 왜곡 설계를 수립한다.
• 차별적 비밀리어티(구분 불가능성)와 왜곡 비밀리어티(제한된 추론 오차)라는 두 가지 개인정보 보호 제약 조건을 통합한다.
• 합성된 개인정보 보호 제약 조건 하에서 데이터 유틸리티를 극대화하도록 왜곡 메커니즘을 최적화한다.
• 게임 이론적 균형을 활용하여 최적의 추론 알고리즘에 대비한 강건한 왜곡 전략을 유도한다.
• 잠재적인 추론 패tern에 대해 동적으로 반응하는 적응형 메커니즘을 활용하여, 다양한 공격 모델에 대비한 내성적 저항력을 확보한다.
• 메커니즘을 통한 정보 泄露와 사후 추론 정확도를 제한하는 제약 조건 하에서 최적화 문제를 해결한다.

실험 결과

연구 질문

• RQ1 차별적 비밀리어티와 왜곡 비밀리어티를 통합한 공동 개인정보 보호 메커니즘이 개별적으로 사용할 경우보다 더 나은 또는 동일한 개인정보 보호 수준을 달성할 수 있는가?
• RQ2 차별적 비밀리어티와 왜곡 비밀리어티를 동시에 강제할 때 얻을 수 있는 최소 유틸리티 손실는 얼마인가?
• RQ3 왜곡 메커니즘은 어떻게 설계되어야 최적의 추론 공격에 대비할 수 있는가?
• RQ4 개별 메커니즘을 사용할 경우보다 개인정보 보호 메커니즘의 조합이 유틸리티 비용을 더 높게 만들까?
• RQ5 최적의 추론 알고리즘을 예측하고 대응하기 위해 게임 이론적 프레임워크를 사용할 수 있는가?

주요 결과

• 합성된 차별적-왜곡 개인정보 보호 메커니즘은 개별적으로 사용할 경우 달성 가능한 최대 개인정보 보호 수준에 도달한다.
• 합성 메커니즘의 유틸리티 비용은 개별적으로 차별적 비밀리어티 또는 왜곡 비밀리어티를 사용할 경우보다 높지 않다.
• 제안된 왜곡 메커니즘은 적대자의 최적 전략을 예측하고 대응하기 때문에 어떤 추론 알고리즘에 대해서도 최적이다.
• 게임 이론적 수식은 왜곡기 전략이 최적의 추론 공격에 대비해 강건함을 보장한다.
• 이 프레임워크는 높은 유틸리티를 유지하면서 강력한 이중 개인정보 보호 보호를 제공하는 적응형 왜곡을 가능하게 한다.
• 결과적으로 개인정보 보호 메커니즘의 조합이 유틸리티를 손상시키지 않으며, 전체 개인정보 보호 보장을 강화할 수 있음을 입증한다.