[논문 리뷰] Hypothesis Testing in the High Privacy Limit

Jiachun Liao, Lalitha Sankar외 2명|arXiv (Cornell University)|2016. 07. 02.

Wireless Communication Security Techniques참고 문헌 6인용 수 3

한 줄 요약

이 논문은 상호정보기반 비밀유지 제약 조건 하에서 이진 가설 검정에서 개인정보 보호를 위한 랜덤화 기법을 최적화하기 위해 유클리드 정보이론적(E-IT) 근사법을 제안한다. 높은 비밀유지 정책에서 최적의 기법이 알파벳 크기와 무관하며, 통계적으로 불가능한 소스 기호를 가장 많이 훼손시켜 유용성을 극대화하면서 泄露를 최소화함을 보여준다.

ABSTRACT

Binary hypothesis testing under the Neyman-Pearson formalism is a statistical inference framework for distinguishing data generated by two different source distributions. Privacy restrictions may require the curator of the data or the data respondents themselves to share data with the test only after applying a randomizing privacy mechanism. Using mutual information as the privacy metric and the relative entropy between the two distributions of the output (postrandomization) source classes as the utility metric (motivated by the Chernoff-Stein Lemma), this work focuses on finding an optimal mechanism that maximizes the chosen utility function while ensuring that the mutual information based leakage for both source distributions is bounded. Focusing on the high privacy regime, an Euclidean information-theoretic (E-IT) approximation to the tradeoff problem is presented. It is shown that the solution to the E-IT approximation is independent of the alphabet size and clarifies that a mutual information based privacy metric preserves the privacy of the source symbols in inverse proportion to their likelihood.

연구 동기 및 목표

• 두 소스 클래스에 대해 상호정보 유출을 제약하면서 출력 분포 간의 상대 엔트로피를 극대화하는 개인정보 기법을 설계하기 위해.
• 정확한 유용성-비밀유지 트레이드오프 문제의 NP-난이도를 고려하여 고비밀유지 정책에서 이를 근사화하기 위해.
• E-IT 근사법이 알파벳 크기와 무관한 닫힌 형태의 해를 도출함을 보여주기 위해.
• 상호정보 기반 비밀유지 메트릭이 소스 기호를 그 가능성의 반비례로 보호하는 방식을 명확히 하기 위해.

제안 방법

• 고비밀유지 정책에서 상대 엔트로피 및 상호정보 함수를 근사하기 위해 유클리드 정보이론(E-IT)을 사용한다.
• 근사적으로 완벽한 비밀유지 기법 주변에서 유용성 및 비밀유지 제약 조건을 선형화하여 볼록 최적화 문제를 유도한다.
• 기본 분포의 제곱근과 균일 가중치 벡터를 사용한 대각 행렬 변환을 적용하여 근사를 단순화한다.
• 유도된 볼록 프로그램을 해결하여 유용성과 유출을 균형 잡는 편향 기반 개인정보 기법을 도출한다.
• 다양한 비밀유지 정책 범위에서 여러 쌍의 베르누이 분포를 사용하여 근사의 수치적 검증을 수행한다.
• 상대 엔트로피를 유용성 메트릭으로 사용하는 데 동기를 부여하기 위해 체르노프-스타인 보조정리를 활용한다.

실험 결과

연구 질문

• RQ1 고비밀유지 정책에서 이진 가설 검정의 유용성-비밀유지 트레이드오프는 어떻게 근사할 수 있는가?
• RQ2 상호정보 기반 유출 제약 조건 하에서 최적의 개인정보 기법의 구조는 어떠한가?
• RQ3 E-IT 근사법이 입력 알파벳 크기와 무관한 해를 도출하는가?
• RQ4 비밀유지 기법은 소스 기호의 가능성에 따라 어떻게 편향을 분포시키는가?
• RQ5 다양한 소스 분포 쌍에 대해 E-IT 근사법이 어느 범위에서 정확한가?

주요 결과

• E-IT 근사법은 두 소스 분포의 최소 엔트로피의 0.5% 이하로 통계적 泄露가 발생하는 고비밀유지 정책에서 매우 정확하다.
• 모두 균일 분포에 가까운 분포 쌍이거나, 서로 균일에서 멀리 떨어져 있거나, 상호 간에 거리가 먼 경우, 근사법은 더 넓은 유출 정책 범위에서 잘 작동한다.
• E-IT 근사법으로 도출된 최적 기법은 알파벳 크기와 무관하여 다양한 데이터 유형 간 설계를 단순화한다.
• 기법은 가장 가능성 없는 소스 기호를 가장 많이 훼손하여, 추론 공격에 가장 취약한 기호에 대해 개인정보를 보호한다.
• 모든 테스트된 쌍에 대해 고비밀유지 정책에서 E-IT 해의 상대 엔트로피(유용성)는 실제 최적값과 거의 동일하다.
• 높은 비밀유지 정책에서 양의 오차 지수를 얻을 수 있으며, 이는 약간의 표본 복잡도 증가를 감수하더라도 실현 가능함을 시사한다.