[논문 리뷰] Hypothesis Testing under Maximal Leakage Privacy Constraints

Jiachun Liao, Lalitha Sankar외 2명|arXiv (Cornell University)|2017. 01. 24.

Privacy-Preserving Technologies in Data참고 문헌 4인용 수 11

한 줄 요약

이 논문은 최대 유출(ML)을 비밀유지 측도로, 제2종 오류 지수를 유틸리티 측도로 사용하여 가설 검정에서의 비밀유지-유틸리티 트레이드오프를 연구한다. 이진 소스에 대해 완전하거나 부분적인 입력 기호 지식을 드러내는 폐쇄형 최적 비밀유지 메커니즘을 도출하여, 엄격한 비밀유지 제약 조건 하에서 높은 유틸리티를 달성하기 위해 특정 입력에 대해 결정론적 또는 거의 결정론적인 매핑이 강제됨을 보여준다.

ABSTRACT

The problem of publishing privacy-guaranteed data for hypothesis testing is studied using the maximal leakage (ML) as a metric for privacy and the type-II error exponent as the utility metric. The optimal mechanism (random mapping) that maximizes utility for a bounded leakage guarantee is determined for the entire leakage range for binary datasets. For non-binary datasets, approximations in the high privacy and high utility regimes are developed. The results show that, for any desired leakage level, maximizing utility forces the ML privacy mechanism to reveal partial to complete knowledge about a subset of the source alphabet. The results developed on maximizing a convex function over a polytope may also of an independent interest.

연구 동기 및 목표

• 최대 유출(ML)을 비밀유지 측도로 사용하여 가설 검정에서의 비밀유지-유틸리티 트레이드오프(put)를 수립하기 위해.
• 제한된 ML 제약 조건 하에서 유용성(제2종 오류 지수)을 최대화하는 최적의 랜덤라이징 메커니즘(비밀유지 매핑)을 결정하기 위해.
• 특히 비밀유지 제약 조건 하에서 입력 기호의 부분적 또는 완전한 지식을 어떻게 드러내는지 최적 메커니즘의 구조를 특성화하기 위해.
• 고비밀성 및 고유틸리티 영역에서의 渐近 근사를 통해 이진에서 비이진 소스로 결과를 확장하기 위해.
• 최적 메커니즘이 ML 제약 조건으로 정의된 다면체 위에서 볼록 함수를 최대화함으로써 유도됨을 보여주기 위해.

제안 방법

• 비밀유지-유틸리티 트레이드오프를 제약 조건이 있는 최적화 문제로 공식화: 상대 엔트로피 $ D(\tilde{\mathbf{p}}_1 \| \tilde{\mathbf{p}}_2) $ (제2종 오류 지수)를 최대화하고, $ L(X \to \hat{X}) \leq \ell $ 를 조건으로 하며, 여기서 $ \ell $ 는 최대 유출 예산이다.
• 최대 유출이 순서 $ \infty $ 인 시브슨 상호정보량과 동치임을 이용하여 비밀유지 제약 조건을 다룰 수 있는 형태로 변환한다.
• 이진 소스에 대해 ML 제약 조건으로 정의된 다면체 위에서 볼록 최적화 문제를 풀어 최적 메커니즘 $ \mathbf{W}^* $ 의 폐쇄형 표현식을 유도한다.
• 비이진 소스에 대해 고차원 공간에서의 탇가능 영역의 복잡성을 다루기 위해 EIT(지수 등온 변환) 근사를 적용한다.
• 대칭성과 열 순열 불변성을 활용하여 최적 메커니즘의 구조를 단순화하고, 서로 다른 행의 수를 두 개로 줄인다.
• 목적 함수의 편미분 행렬 $ \boldsymbol{\Psi} $ 를 사용하여 $ \mathbf{W}^* $ 의 최적 행들이 $ \boldsymbol{\Psi} $ 의 가장 큰 대각선 항목에 질량을 집중시킴을 보여주며, 이는 희소하고 구조화된 메커니즘을 이끈다.

실험 결과

연구 질문

• RQ1 이진 데이터에 대해 최대 유출 비밀유지 제약 조건 하에서 유틸리티(제2종 오류 지수)를 최대화하는 최적 비밀유지 메커니즘은 무엇인가?
• RQ2 유출 예산 $ \ell $ 가 변화함에 따라 최적 메커니즘의 구조는 어떻게 변화하는가? 특히 결정론적 매핑과 랜덤 매핑의 차이를 어떻게 설명할 수 있는가?
• RQ3 고비밀성 및 고유틸리티 영역에서 비이진 소스에 대한 비밀유지-유틸리티 트레이드오프의 渐近 근사는 무엇인가?
• RQ4 최적 메커니즘이 입력 정보를 어떻게 드러내는가? 특히 특정 입력 기호의 완전하거나 부분적인 지식을 드러내는가?
• RQ5 비밀유지-유틸리티 트레이드오프의 최적 메커니즘에서 볼록 상대 엔트로피와 최대 유출로 정의된 다면체 제약 집합 간의 상호작용으로 인해 어떤 구조적 성질이 나타나는가?

주요 결과

• 이진 소스에 대해 최적 메커니즘은 두 입력 값 중 하나에 대해 원래 입력 기호를 확실히 드러내며, 즉 한 입력에 대해서는 결정론적이고 다른 한 입력에 대해서는 노이즈 있는 매핑이다.
• 이진 데이터에 대한 최적 메커니즘은 폐쇄형 해를 가지며, 이는 직접적으로 유출 예산 $ \ell $ 에 따라 달라지며, 매핑의 구조가 임계 임계점에서 변화한다.
• 고비밀성 영역(큰 $ \ell $)에서는 최적 메커니즘이 균일한 랜덤화에 수렴하고, 고유틸리티 영역(작은 $ \ell $)에서는 한 입력 기호에 대해 점점 더 결정론적이게 된다.
• 비이진 소스에 대해 EIT 근사는 $ \mathbf{W}^* $ 의 각 행에 최대 두 개의 비영항만 존재하는 메커니즘을 도출하며, 최적 해는 부분 미분 행렬 $ \boldsymbol{\Psi} $ 의 가장 큰 항목에 질량을 집중시킨다.
• 이진 데이터에 대한 최적 메커니즘은 ML 제약 조건 하에서 가능한 최대 유틸리티(상대 엔트로피)를 달성하며, 이 최대값은 $ \ell = \infty $ 가 아닐 경우 $ D(\mathbf{p}_1 \| \mathbf{p}_2) $ 보다 엄격히 작다.
• 이진 데이터에 대한 최적 메커니즘은 두 개의 서로 다른 행을 유지하는 열 순열에 대해 불변이며, 이는 출력 기호의 레이블링이 유틸리티-비밀유지 트레이드오프에 영향을 주지 않음을 나타낸다.