[논문 리뷰] On Perfect Privacy and Maximal Correlation

Borzoo Rassouli, Denız Gündüz|arXiv (Cornell University)|2017. 12. 22.

Privacy-Preserving Technologies in Data참고 문헌 19인용 수 11

한 줄 요약

이 논문은 비밀 변수 X에 대한 정보 泄露가 없도록 보장하면서도, 공개된 데이터 U를 통해 달성할 수 있는 최대 유틸리티(상호정보량 또는 오차 측도를 통한)를 수식화하여 정밀한 프라이버시의 문제를 다룬다. 이는 최적의 공개가 선형 프로그래밍을 통해 해결 가능하다는 것을 보이며, 최대 상관관계와 가우시안 설정에서의 프라이버시가 인코더가 X와 Y를 모두 액세스할 수 있을 때 의존한다는 연결 고리를 설정한다.

ABSTRACT

The problem of private data disclosure is studied from an information theoretic perspective. Considering a pair of correlated random variables $(X,Y)$, where $Y$ denotes the observed data while $X$ denotes the private latent variables, the following problem is addressed: What is the maximum information that can be revealed about $Y$, while disclosing no information about $X$? Assuming that a Markov kernel maps $Y$ to the revealed information $U$, it is shown that the maximum mutual information between $Y$ and $U$, i.e., $I(Y;U)$, can be obtained as the solution of a standard linear program, when $X$ and $U$ are required to be independent, called extit{perfect privacy}. This solution is shown to be greater than or equal to the extit{non-private information about $X$ carried by $Y$.} Maximal information disclosure under perfect privacy is is shown to be the solution of a linear program also when the utility is measured by the reduction in the mean square error, $\mathbb{E}[(Y-U)^2]$, or the probability of error, $\mbox{Pr}\{Y eq U\}$. For jointly Gaussian $(X,Y)$, it is shown that perfect privacy is not possible if the kernel is applied to only $Y$; whereas perfect privacy can be achieved if the mapping is from both $X$ and $Y$; that is, if the private latent variables can also be observed at the encoder. Next, measuring the utility and privacy by $I(Y;U)$ and $I(X;U)$, respectively, the slope of the optimal utility-privacy trade-off curve is studied when $I(X;U)=0$. Finally, through a similar but independent analysis, an alternative characterization of the maximal correlation between two random variables is provided.

연구 동기 및 목표

• 관측된 데이터 Y에 대해 공개할 수 있는 최대 정보량을 결정함. 이때 비밀 잠재 변수 X에 대한 정보 泄露가 없도록 함.
• 정밀한 프라이버시 조건, 즉 I(X;U) = 0을 만족할 때 유틸리티-프라이버시 트레이드오프를 수식화함.
• 상호정보량, 평균 제곱 오차 또는 분류 오차로 측정된 유틸리티일 경우 최적의 공개 메커니즘을 분석함.
• 매핑이 Y에만 의존할 경우와 X와 Y에 모두 의존할 경우의 정밀한 프라이버시 달성 조건을 조사함.
• 독립적인 분석을 통해 두 랜덤 변수 간 최대 상관관계의 새로운 특성화를 제공함.

제안 방법

• 정밀한 프라이버시 문제를 선형 프로그래밍으로 수식화하여 I(Y;U)를 최대화하고 I(X;U) = 0 조건을 만족함.
• Y에서 공개된 데이터 U로의 마르코프 커널을 사용하여 공개 메커니즘을 모델링함.
• 최적의 해를 표준 선형 프로그래밍의 해로 유도함으로써, 0의 프라이버시 유출 조건 하에서 최대 유틸리티의 계산이 가능함.
• 공동 가우시안 (X,Y) 케이스를 분석하여, 인코더가 Y만 관찰할 경우 정밀한 프라이버시가 이룰 수 없다고 보여줌.
• 상호정보량 이외의 유틸리티 측도를 고려함. 평균 제곱 오차 E[(Y−U)²] 및 분류 오차 Pr{Y≠U}를 포함하며, 이들 역시 해가 가능한 선형 프로그래밍임을 보임.
• 이중 분석 프레임워크를 사용하여 최대 상관관계의 대안적 특성화를 제공함.

실험 결과

연구 질문

• RQ1 X와 U가 서로 독립이어야 하는 조건 하에서 달성 가능한 최대 상호정보량 I(Y;U)는 얼마인가? 즉, 정밀한 프라이버시 조건에서.
• RQ2 인코더가 X와 Y를 모두 액세스할 경우와 Y만 액세스할 경우의 최적 공개 메커니즘이 어떻게 달라지는가?
• RQ3 매핑이 Y에만 적용될 경우 가우시안 케이스에서 정밀한 프라이버시를 달성할 수 있는가?
• RQ4 프라이버시가 I(X;U)=0 조건으로 강제될 경우, 최적의 유틸리티-프라이버시 트레이드오프 곡선의 구조는 어떠한가?
• RQ5 X와 Y 간 최대 상관관계는 정밀한 프라이버시 문제 및 유틸리티 최적화 문제와 어떻게 관련이 있는가?

주요 결과

• 정밀한 프라이버시 조건 하에서 최대 상호정보량 I(Y;U)는 표준 선형 프로그래밍의 해이며, 이는 항상 Y가 X에 대해 담고 있는 비공개 정보보다 크거나 같음.
• 공동 가우시안 (X,Y)의 경우, 인코더가 Y만 관찰할 경우 정밀한 프라이버시를 달성할 수 없으며, 인코더가 X와 Y를 모두 액세스할 때에만 가능해짐.
• 평균 제곱 오차 또는 분류 오차로 유틸리티를 측정할 경우, 정밀한 프라이버시 조건 하에서 최적의 공개 역시 선형 프로그래밍으로 특성화됨.
• 정밀한 프라이버시 지점(I(X;U)=0)에서 최적의 유틸리티-프라이버시 트레이드오프 곡선의 기울기는 해석적으로 특성화됨.
• 독립적인 정보이론적 분석을 통해 X와 Y 간 최대 상관관계의 대안적 특성화가 유도됨.
• 정밀한 프라이버시 조건 하에서 해는 항상 가능하고 유계이며, X가 인코더에서 관찰되지 않을 경우 최적의 U는 오직 Y에 대한 함수로 구성됨.