[논문 리뷰] Differentially Private Change-Point Detection

Rachel Cummings, Sara Krehbiel외 3명|arXiv (Cornell University)|2018. 08. 29.

Privacy-Preserving Technologies in Data인용 수 16

한 줄 요약

이 논문은 ReportMax 및 AboveThresh 메커니즘을 활용하여 $\epsilon$-차별적 비밀유지 보장을 보장하는 최초의 오프라인 및 온라인 변화점 감지를 위한 차별적 비밀유지 알고리즘을 제시한다. 비밀유지 조건 하에서 최대우도추정기의 유한표본 정확도 보장을 제공하며, 비밀유지 비용을 $D_{KL}(P_0||P_1)/\epsilon$로 정량화하고, 다양한 비밀유지 수준에서 변화점 감지를 강력하게 수행하는 것으로 실험적으로 검증한다.

ABSTRACT

The change-point detection problem seeks to identify distributional changes at an unknown change-point k* in a stream of data. This problem appears in many important practical settings involving personal data, including biosurveillance, fault detection, finance, signal detection, and security systems. The field of differential privacy offers data analysis tools that provide powerful worst-case privacy guarantees. We study the statistical problem of change-point detection through the lens of differential privacy. We give private algorithms for both online and offline change-point detection, analyze these algorithms theoretically, and provide empirical validation of our results.

연구 동기 및 목표

• 생체감시 및 IoT와 같은 애플리케이션에서 민감한 데이터 스트림에 대한 차별적 비밀유지 변화점 감지의 격차를 해소하기 위해.
• 변화점의 비공개 최대우도추정기(MLE)에 대한 최초의 유한표본 정확도 경계를 제공하기 위해.
• $\epsilon$-차별적 비밀유지를 보장하면서도 통계적 정확도를 유지하는 사전 알고리즘 설계 및 분석을 위해.
• 슬라이딩 윈도우를 사용한 AboveThresh 메커니즘을 통해 오프라인 비밀유지 감지 기법을 온라인 환경으로 확장하기 위해.
• 다양한 비밀유지 파rameter $\epsilon$와 분포 가정 하에서 비밀유지 변화점 감지의 성능을 경험적으로 검증하기 위해.

제안 방법

• 오프라인 환경에서 부분적 로그우도 질의의 민감도에 비례하는 라플라스 노이즈를 추가하여 ReportMax 메커니즘을 사용해 변화점의 MLE를 비밀유지적으로 추정한다.
• 온라인 환경에서, 임계값을 초과할 때까지 반복적으로 노이즈가 첨가된 통계량을 질의하여 크기 $n$인 윈도우 내 변화점을 탐지하기 위해 AboveThresh 메커니즘을 적용한다.
• 슬라이딩 윈도우를 통해 테스트 통계량을 효율적으로 계산하기 위해 CUSUM 통계량의 재귀적 계산을 활용한다: $W_i = \max(W_{i-1}, 0) + \log(P_1(x_i)/P_0(x_i))$.
• 사전 변화 및 사후 변화 분포 하에서 노이즈가 첨가된 CUSUM 통계량의 경험적 분위수를 사용해 경고 임계값 $T$를 설정하여 오류 경고 비율을 제어한다.
• 100만 번의 몬테카를로 시뮬레이션을 통해 오류 경고 비율과 탐지 정확도를 추정하며, 신뢰할 수 있는 탐지가 가능하도록 비어 있지 않은 범위를 확보하기 위해 임계값 선택을 제약한다.
• 민감도 기반 노이즈 주입을 $\Delta/\epsilon$ 스케일링을 통해 구현하여 $\epsilon$-차별적 비밀유지를 달성한다. 여기서 $\Delta$는 로그우도 통계량의 민감도이다.

실험 결과

연구 질문

• RQ1 비공개 MLE의 유한표본 정확도는 무엇이며, 비밀유지 추정기와 비교해 볼 때 어떻게 다를까?
• RQ2 ReportMax 메커니즘은 어떻게 변형되어 오프라인 데이터 스트림에서 변화점을 비밀유지적으로 추정할 수 있는가?
• RQ3 AboveThresh 메커니즘을 사용해 변화점 위치에 대한 사전 지식 없이도 온라인 환경에서 비밀유지 변화점 감지를 가능하게 할 수 있는가?
• RQ4 오프라인 및 온라인 환경 모두에서 비밀유지($\epsilon$)와 탐지 정확도 사이의 상충 관계는 어떠한가?
• RQ5 윈도우 크기와 분포 가정은 온라인 비밀유지 변화점 감지에서 임계값 설정과 탐지 성능에 어떤 영향을 미치는가?

주요 결과

• 논문은 변화점의 비공개 MLE에 대해 최초로 유한표본 정확도 보장을 제공하며, 민감도가 유한할 경우 데이터베이스 크기 $n$과 무관하게 정확도가 유지됨을 보여준다.
• ReportMax를 통한 비밀유지 오프라인 감지 기법은 $\epsilon$-차별적 비밀유지를 달성하며, 정확도는 $D_{KL}(P_0||P_1)/\epsilon$로 제한되며, 이는 비밀유지의 비용을 정량화한 것이다.
• Bernoulli 모델에서 $n=700$ 및 $k^*=5000$의 온라인 시뮬레이션에서, $\epsilon=\infty$ 및 $\epsilon=1$일 경우 오류 경고 비율이 0.10 이하로 유지되며, 이때 $T=220$이다.
• 가우시안 모델의 경우 더 큰 윈도우 크기가 필요하다. $n=700$일 때, $\epsilon=0.5,1$에 대해 오류 경고 제약을 완화해야 하며, 이에 따라 $T=180,150,100$으로 설정하였다.
• 온라인 환경에서의 조건부 탐지 정확도는 오프라인 정확도와 유사하다. 이는 주요 과제가 추정 정밀도가 아니라 경고 트리거링에 있음을 시사한다.
• 경험적 결과는 AboveThresh를 통해 올바른 윈도우가 식별된 후, 오프라인 추정 알고리즘이 변화점을 정확하게 특정함을 보여주며, 모oduular 설계의 효과성을 확인한다.