[논문 리뷰] Capacity Bounded Differential Privacy

Kamalika Chaudhuri, Jacob Imola외 1명|arXiv (Cornell University)|2019. 07. 03.

Privacy-Preserving Technologies in Data참고 문헌 31인용 수 7

한 줄 요약

이 논문은 기계학습에서 현실적인 공격자 능력을 모델링하기 위해 알려진 함수 클래스(예: 선형 함수)로 제한된 공격자를 고려하는, 비차별적 개인정보보호의 완화된 형태인 용량 제한된 차별적 개인정보보호를 소개한다. 이 정의 하에서 일반적인 메커니즘인 라플라스 및 가우시안 분포가 더 강력한 개인정보보호 보장을 달성하며, 제한된 f-다양도를 통해 개선된 일반화 및 복합성 성질을 증명한다.

ABSTRACT

Differential privacy, a notion of algorithmic stability, is a gold standard for measuring the additional risk an algorithm's output poses to the privacy of a single record in the dataset. Differential privacy is defined as the distance between the output distribution of an algorithm on neighboring datasets that differ in one entry. In this work, we present a novel relaxation of differential privacy, capacity bounded differential privacy, where the adversary that distinguishes output distributions is assumed to be capacity-bounded -- i.e. bounded not in computational power, but in terms of the function class from which their attack algorithm is drawn. We model adversaries in terms of restricted f-divergences between probability distributions, and study properties of the definition and algorithms that satisfy them.

연구 동기 및 목표

• 차별적 개인정보보호 기반 기계학습의 높은 샘플 복잡도 문제를 해결하기 위해 위협 모델을 현실적이고 용량 제한된 공격자로 완화한다.
• 공격자가 알려진 함수 클래스(예: 선형 모델)에 제한된 것으로 간주하는 제한된 f-다양도를 사용하여 개인정보 위험을 모델링한다. 이는 실제 기계학습 기반 공격를 반영한다.
• 일반적인 메커니즘(Laplace, Gaussian)이 이 새로운 정의 하에서 더 탴밀한 개인정보보호 한계를 확보함을 보여준다.
• 새로운 프레임워크 하에서 복합성, 후처리 불변성 및 알고리즘 일반화와 같은 이론적 성질을 확립한다.
• 제한된 다양도의 이론을 발전시키며, 핀스커 부등식 및 데이터 처리 부등식의 새로운 형태를 포함한다.

제안 방법

• 함수 클래스 $\mathcal{H}$ 와 제한된 다양도 $\Gamma$ (예: KL 또는 Renyi 다양도)를 사용하는 $(\mathcal{H}, \Gamma)$-용량 제한된 차별적 개인정보보호를 제안한다.
• 공격자를 $\mathcal{H}$ 내의 함수(예: 선형 함수)로 제한하여 실질적인 후처리 제약 조건을 반영한다.
• 제한된 f-다양도를 사용해 개인정보 손실을 측정함으로써, 함수 클래스로 제한된 공격 하에서의 개인정보보호 분석을 가능하게 한다.
• 표준 메커니즘(Laplace, Gaussian)에 이 프레임워크를 적용하고, 동일한 노이즈 수준에서 더 강력한 개인정보보호 보장을 확보함을 보여준다.
• 특정 $\mathcal{H}$ 클래스에 대해 볼록성, 복합성, 후처리 불변성과 같은 이론적 결과를 증명한다.
• 일반화 경계를 확립: $(\mathcal{H}, \mathbb{KL})$-개인정보보호 알고리즘은 파rameter $O(\sqrt{\epsilon})$ 로 일반화를 보장한다.

실험 결과

연구 질문

• RQ1 계산 능력이 아닌 공격자의 함수 클래스를 제한함으로써 차별적 개인정보보호를 의미 있게 완화시킬 수 있는가?
• RQ2 라플라스 및 가우시안과 같은 표준 개인정보보호 메커니즘이 용량 제한된 정의 하에서 더 나은 개인정보보호 보장을 달성하는가?
• RQ3 용량 제한된 차별적 개인정보보호에 대해 복합성 및 후처리 불변성과 같은 이론적 성질이 성립하는가?
• RQ4 용량 제한된 개인정보보호가 알고리즘 일반화를 보장할 수 있으며, 그 속도는 어떠한가?
• RQ5 제한된 f-다양도에 대해 핀스커 유형의 부등식과 같은 새로운 성질를 유도할 수 있는가?

주요 결과

• 동일한 노이즈 스케일에서 용량 제한된 차별적 개인정보보호 하에서 라플라스 및 가우시안 메커니즘이 표준 차별적 개인정보보호보다 더 강력한 개인정보보호 보장을 달성한다.
• 매트릭스 메커니즘은 용량 제한된 프레임워크로 분석할 경우 더 나은 개인정보보호 보장을 제공한다.
• 임의의 질의 클래스 $\mathcal{Q}$ 에 대해, $\mathcal{H}$-제한된 $\mathbb{KL}$-개인정보보호는 파rameter $O(\sqrt{\epsilon})$ 로 일반화를 보장하는 함수 클래스 $\mathcal{H}$ 가 존재한다.
• 일부 $\mathcal{H}$ 조건 하에서 프레임워크는 볼록성, 부드러운 복합성 및 후처리 불변성을 지원한다.
• 제한된 다양도에 대해 핀스커의 부등식 및 데이터 처리 부등식의 새로운 형태가 확립되어 정보 기하학을 발전시킨다.
• 제한된 다양도 프레임워크는 함수 클래스로 제한된 공격자 하에서 개인정보 손실을 깔끔하게 특성화하며, 계산적 또는 통계적 완화보다 실용적인 대안을 제공한다.