[논문 리뷰] On the Privacy of Optimization Approaches

Pradeep Chathuranga Weeraddana, George Athanasiou외 3명|arXiv (Cornell University)|2012. 10. 11.

Privacy-Preserving Technologies in Data참고 문헌 41인용 수 4

한 줄 요약

이 논문은 최적화 기반 방법, 특히 대수적 변환 또는 ADMM와 같은 분산 알고리즘을 사용하는 경우에 대해 공식적인 프라이버시 정량화 메커니즘을 제안한다. 적대적 관측치에서 문제 데이터의 불확실성 집합으로의 일대다 관계 맵핑을 도입하여, 데이터 복원의 모호성에 대한 엄밀한 프라이버시 측도를 가능하게 하며, 평균 공감 예제와 같은 사례에서 높은 프라이버시 수준(예: ρ = (∞,1,1))을 보여주는 주요 결과를 도출한다.

ABSTRACT

Ensuring privacy of sensitive data is essential in many contexts, such as healthcare data, banks, e-commerce, wireless sensor networks, and social networks. It is common that different entities coordinate or want to rely on a third party to solve a specific problem. At the same time, no entity wants to publish its problem data during the solution procedure unless there is a privacy guarantee. Unlike cryptography and differential privacy based approaches, the methods based on optimization lack a quantification of the privacy they can provide. The main contribution of this paper is to provide a mechanism to quantify the privacy of a broad class of optimization approaches. In particular, we formally define a one-to-many relation, which relates a given adversarial observed message to an uncertainty set of the problem data. This relation quantifies the potential ambiguity on problem data due to the employed optimization approaches. The privacy definitions are then formalized based on the uncertainty sets. The properties of the proposed privacy measure is analyzed. The key ideas are illustrated with examples, including localization, average consensus, among others.

연구 동기 및 목표

• 암호화나 차별적 프라이버시 보장이 없는 최적화 기반 접근법에서 공식적인 프라이버시 정량화의 부족을 해결하기 위해.
• 관측된 메시지로부터 비밀 문제 데이터를 복원하는 데 있어 적대자가 겪는 모호성을 포괄하는 엄밀한 프라이버시 측도를 정의하기 위해.
• 이 프라이버시 측도의 성질을 분석하고, 정렬 및 공감과 같은 다양한 최적화 문제에 대한 적용 가능성을 입증하기 위해.
• 암호화나 차등 프라이버시 메커니즘이 없이도, 구조적 설계를 통해 일부 최적화 방법이 강력한 프라이버시 보장을 달성할 수 있음을 보여주기 위해.

제안 방법

• 적대적 관측 메시지와 비밀 문제 데이터의 불확실성 집합 사이의 일대다 관계를 도입하여, 데이터 복원의 모호성을 공식화한다.
• 불확실성 집합 𝒰에 기반한 프라이버시 측도 ρ(𝒰)를 정의하며, ρ = (∞,1,1)은 스칼라 데이터에 대해 최대 프라이버시를 의미한다.
• 분산 ADMM 기반 알고리즘에 이 프레임워크를 적용하여, 조율 과정에서 교환되는 이중 변수(하위기울기)가 관측 메시지로 간주됨을 보여준다.
• ADMM 알고리즘의 구조를 활용하여 관측된 이중 반복값 시퀀스 S_dual_i 로부터 불확실성 집합 𝒰_c_i 를 유도한다.
• 매개변수화 기법을 사용하여 불확실성 집합을 구성하며, 예를 들어 ∑θ_i = 0 이 되도록 편향 θ_i 를 도입하여 조율 단계의 일관성을 유지한다.
• 적어도 하나의 솔직한 하위계통이 존재하는 한, 최대 r < N−1명의 적대자 간의 공모에 대해 프라이버시가 강건함을 보여준다.

실험 결과

연구 질문

• RQ1 암호화나 차등 프라이버시 보장을 갖지 않는 최적화 기반 접근법의 프라이버시를 어떻게 공식적으로 정량화할 수 있는가?
• RQ2 분산 최적화 프로토콜에서 관측된 메시지와 원래 비밀 데이터 복원의 불확실성 간의 관계는 무엇인가?
• RQ3 암호화나 노이즈 주입에 의존하지 않고도, 최적화 알고리즘이 도입하는 본질적 모호성을 포괄하는 프라이버시 측도를 정의할 수 있는가?
• RQ4 프라이버시 수준은 최적화 알고리즘의 구조와 공모하는 적대자의 수에 따라 어떻게 달라지는가?

주요 결과

• 제안된 프라이버시 측도 ρ(𝒰)는 적대자가 비밀 데이터를 복원하는 데 겪는 모호성을 성공적으로 정량화하며, ρ = (∞,1,1)은 스칼라 입력에 대해 최대 프라이버시를 의미한다.
• 평균 공감 예제에서 한 에이전트의 데이터에 대한 불확실성 집합은 𝒰_c1 = {c1 − θ1 | 1^Tθ = 0} 이며, 이는 ρ(𝒰_c1) = (∞,1,1)을 유도하여 가능한 최고의 프라이버시 수준을 제공한다.
• 적어도 하나의 솔직한 하위계통이 존재하는 한, 최대 r < N−1명의 적대자 간의 공모가 있어도 프라이버시 수준은 강건하다.
• 이 프레임워크는 최적화 기반 방법이 노이즈 주입이나 암호화 없이도 알고리즘적 구조와 변환을 통한 데이터 가림을 활용하여 강력한 프라이버시를 달성할 수 있음을 드러낸다.
• 이 방법은 일반적이며, 표준 목표/제약 조건 변환을 사용하거나 ADMM 기반 분산 솔버를 사용하는 광범위한 최적화 접근법에 적용 가능하다.