[논문 리뷰] Measuring Information Leakage in Non-stochastic Brute-Force Guessing

Farhad Farokhi, Ni Ding|arXiv (Cornell University)|2020. 04. 23.

Privacy-Preserving Technologies in Data참고 문헌 33인용 수 4

한 줄 요약

이 논문은 확률적 모델이 없거나 신뢰할 수 없는 환경에서 비확률적 추측 기반 정보 泄露 측정법을 제안한다. 泄露는 출력 관측이 있는지 여부에 따라 악성 경우 추측 복잡도의 비율로 정량화된다. 이 프레임워크는 개인 정보와 출력을 모델링하기 위해 불확실 변수를 사용하며, 결과적으로 최대 泄露 측정법은 데이터 처리 부등식과 운영 해석 가능성과 같은 핵심 공리들을 만족한다. 이는 최대-최소 정보와 확률적 최대 泄루에 연결된다.

ABSTRACT

We propose an operational measure of information leakage in a non-stochastic setting to formalize privacy against a brute-force guessing adversary. We use uncertain variables, non-probabilistic counterparts of random variables, to construct a guessing framework in which an adversary is interested in determining private information based on uncertain reports. We consider brute-force trial-and-error guessing in which an adversary can potentially check all the possibilities of the private information that are compatible with the available outputs to find the actual private realization. The ratio of the worst-case number of guesses for the adversary in the presence of the output and in the absence of it captures the reduction in the adversary's guessing complexity and is thus used as a measure of private information leakage. We investigate the relationship between the newly-developed measure of information leakage with the existing non-stochastic maximin information and stochastic maximal leakage that are shown arise in one-shot guessing.

연구 동기 및 목표

• 확률적 모델이 없거나 신뢰할 수 없는 환경에서 사용 가능한 운영적 비확률적 정보 泄루 측정법을 개발하는 것.
• 불확실 변수를 사용하여 브루트포스 추측 공격자에 대한 개인정보 보호를 비확률적 랜덤 변수의 대체로 공식화하는 것.
• 출력 관측이 있을 경우 추측 복잡도의 최악의 경우 감소를 기반으로 한 泄루 메트릭을 정의하는 것.
• 제안된 泄루 측정법에 대한 핵심 공리, 예를 들어 데이터 처리 부등식, 독립성, 가환성 등을 수립하는 것.
• 비확률적 泄루가 기존 개념인 최대-최소 정보와 확률적 최대 泄루와 어떻게 관련되는지 밝히는 것.

제안 방법

• 확률적 가정을 피하기 위해 개인 정보와 출력을 모델링하기 위해 불확실 변수를 사용한다.
• 정보 泄루를 악성 경우 추측 횟수의 비율로 정의하며, 이는 출력 관측이 있는지 여부에 따라 달라진다.
• 공격자가 타깃으로 삼을 수 있는 모든 민감한 속성에 대해 최적화하여 비확률적 브루트포스 최대 泄루를 정의한다.
• 논문 [1]의 공리를 적용하여 설계를 이끌며, 공격자 행동에 대한 최소한의 가정과 운영 해석 가능성을 확보한다.
• α → ∞의 극한에서 Sibson 상호정보량을 통해 비확률적 泄루와 확률적 최대 泄루 사이의 유계를 유도한다.
• 비확률적 최대 泄루가 출력의 0차 레니 엔트로피와 조건부 레니 엔트로피의 합으로 상한이 있음을 증명한다.

실험 결과

연구 질문

• RQ1 확률적 모델이 없을 경우 비확률적 프레임워크에서 정보 泄루를 어떻게 측정할 수 있는가?
• RQ2 확률적 가정 없이 브루트포스 추측 상황에서 정보 泄루의 운영적 해석은 무엇인가?
• RQ3 제안된 비확률적 泄루 측정법은 최대-최소 정보와 확률적 최대 泄루와 어떻게 관련되는가?
• RQ4 제안된 泄루 측정법이 데이터 처리 부등식과 가환성과 같은 기본 공리들을 만족하는가?
• RQ5 비확률적 최대 泄루는 알려진 정보이론적 양수로 상한을 가질 수 있는가?

주요 결과

• 제안된 비확률적 브루트포스 泄루 측정법은 모든 핵심 공리: 운영 해석, 최소 공격자 가정, 데이터 처리 부등식, 독립성, 가환성을 만족한다.
• 비확률적 최대 泄루는 $ H_0(Y) + H_0(X|Y) $ 로 상한이 있으며, 여기서 $ H_0 $ 는 0차 레니 엔트로피를 의미한다.
• 비확률적 최대 泄루는 확률적 최대 泄루 $ \widetilde{\mathcal{L}}(X\rightarrow Y) $ 와 레니 엔트로피 $ H_0(X|Y) $ 의 합으로 상한이 있다.
• 측정법은 비확률적 설정에서 정확도가 완벽한 한 번의 추측에서 유도되는 최대-최소 정보와 자연스럽게 연결된다.
• 이 프레임워크는 '식별 가능성'이라는 새로운 개인정보 보호 개념을 가능하게 하며, 이는 최대 泄루가 $ \log_2(|\mathbb{X}|(1 - 2^{-\epsilon}) + 1) $ 이하일 경우 $ \epsilon $-식별 가능하다고 정의된다.
• 비확률적 泄루는 특히 소규모 데이터나 비랜덤라이즈된 보고 시나리오에서 확률적 최대 泄루의 강력하고 분포에 의존하지 않는 대체 측정법을 제공한다.