[논문 리뷰] On Maximal Correlation, Mutual Information and Data Privacy

Shahab Asoodeh, Fady Alajaji외 1명|arXiv (Cornell University)|2015. 10. 08.

Privacy-Preserving Technologies in Data참고 문헌 16인용 수 6

한 줄 요약

이 논문은 개인정보 보호 제약 조건에서 상호정보량 대신 최대상관관계를 사용하여 데이터 프라이버시를 재정의하며, 새로운 비율-프라이버시 트레이드오프 함수를 제안한다. 최대상관관계 기반 프라이버시 조건 하에서 추정 유틸리티(MMSE)의 하한을 확립하여, 최소로 달성 가능한 오차가 민감한 변수와 공개된 데이터 간의 최대상관관계에 따라 달라짐을 보여준다.

ABSTRACT

The rate-privacy function is defined in \cite{Asoodeh} as a tradeoff between privacy and utility in a distributed private data system in which both privacy and utility are measured using mutual information. Here, we use maximal correlation in lieu of mutual information in the privacy constraint. We first obtain some general properties and bounds for maximal correlation and then modify the rate-privacy function to account for the privacy-constrained estimation problem. We find a bound for the utility in this problem when the maximal correlation privacy is set to some threshold $ε>0$ and construct an explicit privacy scheme which achieves this bound.

연구 동기 및 목표

• 상호정보량이 개인정보 측정 척도로 사용될 때의 한계를 해결하기 위해 최대상관관계를 더 강력한 대안으로 도입하기 위해.
• 프라이버시 제약 조건에서 상호정보량 대신 최대상관관계를 사용하여 비율-프라이버시 트레이드오프 문제를 재구성하기 위해.
• 민감한 데이터 X와 공개된 데이터 Z 간의 최대상관관계가 ε로 제한될 때, 추정 유틸리티(MMSE)의 최소 가능한 하한을 유도하기 위해.
• 유도된 유틸리티 하한을 달성하는 명시적인 프라이버시 보존 메커니즘(노이즈가 첨가된 변환)을 구성하기 위해.

제안 방법

• 최대상관관계 ρₘ(X;Z)를 X와 Z의 모든 평균이 0이고 2차 모멘트가 유한한 함수들 사이의 선형 상관관계의 상한으로 정의한다.
• 조건부 기대값 연산자 T_X를 사용하여 ρₘ(X;Z)를 연산자의 두 번째로 큰 특이값으로 특성화한다.
• ρₘ(X;Z) ≤ ε 를 만족시키기 위해 Z = X + λN 모델을 프라이버시 필터로 제안하며, 여기서 N은 (X,Y)와 독립이면서 α-스테이블 분포를 따른다.
• 프라이버시 임계값 ε 를 달성하는 최적의 노이즈 증폭 λ*ₜₕₑₜₐ = (1/ε² - 1)^{1/α} 를 유도한다.
• Z로부터 Y를 추정할 때의 최소 평균제곱오차(MMSE)에 대한 하한을 확립한다: mmse_ε(Y) ≥ (1 - ϱ²_ε(X;Y)) · var(Y), 여기서 ϱ_ε(X;Y) = ρₘ(Y; X + λ*ₜₕₑₜₐN).
• 지정된 채널 모델 하에서 이 하한이 날카로운(tight) 임을 보이며, 프라이버시가 더 엄격해질수록(ε가 작아질수록) 유틸리티가 떨어짐을 보여준다.

실험 결과

연구 질문

• RQ1 프라이버시 제약 조건에서 상호정보량을 최대상관관계로 대체할 경우, 유틸리티-프라이버시 트레이드오프에 어떤 영향을 미치는가?
• RQ2 민감한 데이터 X와 공개된 데이터 Z 간의 최대상관관계가 ε로 제한될 때, 추정 유틸리티(MMSE)의 기본적인 하한은 무엇인가?
• RQ3 최대상관관계 제약 조건 하에서 이 하한을 달성하는 명시적인 프라이버시 메커니즘이 구성될 수 있는가?
• RQ4 최적의 노이즈 증폭 λ*ₜₕₑₜₐ 는 프라이버시 임계값 ε 과 노이즈 분포의 안정성 매개수 α 에 따라 어떻게 달라지는가?
• RQ5 프라이버시 제약 조건 하에서 Y를 Z로부터 추정할 때의 정확도와 최대상관관계 ρₘ(Y;Z) 사이의 관계는 무엇인가?

주요 결과

• 논문은 ρₘ(X;Z) ≤ ε 일 때 Z로부터 Y를 추정할 수 있는 최소 가능한 MMSE에 대한 하한을 유도하며, 이는 mmse_ε(Y) ≥ (1 - ϱ²_ε(X;Y)) · var(Y) 로 주어진다.
• Z = X + λN 채널 모델과 α-스테이블 노이즈를 사용할 경우 이 하한은 날카로운데, λ*ₜₕₑₜₐ = (1/ε² - 1)^{1/α} 가 프라이버시 제약 조건을 달성한다.
• 함수 ϱ_ε(X;Y) = ρₘ(Y; X + λ*ₜₕₑₜₐN) 는 프라이버시 제약 조건 하에서 Y와 Z 사이의 최대 도달 가능한 상관관계를 측정한다.
• 이 하한은 오직 ϱ_ε(X;Y) = 1 일 때에만 0이 되며, 이는 오직 ρₘ(X;Y) = 1 일 때에만 발생하여 X와 Y 간의 완전한 상관관계를 의미한다.
• ρₘ(X;Y) < 1 이면 하한은 0에서 벗어나므로, 프라이버시 제약 조건 하에서는 비트리얼 추정 오차가 피할 수 없다.
• 유틸리티 하한은 ε에 대해 비증가함을 보이며, 더 엄격한 프라이버시(작은 ε)는 더 높은 추정 오차를 초래함을 반영하여 근본적인 트레이드오프를 나타낸다.