[논문 리뷰] A Blockchain-Based Approach for Saving and Tracking Differential-Privacy Cost

Yang Zhao, Jun Zhao외 4명|arXiv (Cornell University)|2020. 01. 25.

Privacy-Preserving Technologies in Data참고 문헌 50인용 수 5

한 줄 요약

이 논문은 반복 쿼리에 대해 이전에 생성된 노이즈가 있는 응답을 재사용함으로써 차별적 비밀보장(DP) 비용을 추적하고 최소화하는 블록체인 기반 시스템을 제안한다. 이전에 생성된 노이즈 응답의 재사용 비율을 동적으로 조정하고, 모든 쿼리와 개인정보 보호 비용을 변조 방지 가능한 블록체인에 기록함으로써, 시스템은 투명성을 확보하고 개인정보 보호 예산의 과도한 사용을 방지하며, 누적 DP 비용을 크게 감소시킨다.

ABSTRACT

An increasing amount of users' sensitive information is now being collected for analytics purposes. To protect users' privacy, differential privacy has been widely studied in the literature. Specifically, a differentially private algorithm adds noise to the true answer of a query to generate a noisy response. As a result, the information about the dataset leaked by the noisy output is bounded by the privacy parameter. Oftentimes, a dataset needs to be used for answering multiple queries (e.g., for multiple analytics tasks), so the level of privacy protection may degrade as more queries are answered. Thus, it is crucial to keep track of the privacy spending which should not exceed the given privacy budget. Moreover, if a query has been answered before and is asked again on the same dataset, we may reuse the previous noisy response for the current query to save the privacy cost. In view of the above, we design and implement a blockchain-based system for tracking and saving differential-privacy cost. Blockchain provides a distributed immutable ledger that records each query's type, the noisy response used to answer each query, the associated noise level added to the true query result, and the remaining privacy budget in our system. Furthermore, since the blockchain records the noisy response used to answer each query, we also design an algorithm to reuse previous noisy response if the same query is asked repeatedly. Specifically, considering that different requests of the same query may have different privacy requirements, our algorithm (via a rigorous proof) is able to set the optimal reuse fraction of the old noisy response and add new noise (if necessary) to minimize the accumulated privacy cost. Experimental results show that the proposed algorithm can reduce the privacy cost significantly without compromising data accuracy.

연구 동기 및 목표

• 데이터셋이 반복적으로 쿼리될 경우 추적되지 않고 과도하게 소모되는 차별적 비밀보장(DP) 예산 문제를 해결하기 위해.
• 동일한 데이터셋에 대해 반복 쿼리가 이루어질 경우 발생하는 누적 개인정보 보호 비용을 줄이기 위해.
• 블록체인 기술을 활용해 DP 예산 사용에 대한 투명하고 변조 불가능한 감사 기록을 제공하기 위해.
• 이전에 계산된 노이즈 응답을 동적으로 최적의 방식으로 재사용하여 새로운 노이즈 추가를 최소화하고 개인정보 보호 예산을 유지하기 위해.
• 예산이 소진된 후에는 더 이상 개인정보 보호 비용이 발생하지 않도록 스마트 계약을 통해 보장하기 위해.

제안 방법

• 반복 쿼리에 대해 이전에 생성된 노이즈 응답의 최적 재사용 비율을 계산하는 새로운 알고리즘 설계를 통해 총 개인정보 보호 비용을 최소화하기 위해.
• 효율성을 높이기 위해 사전 정의된 민감도 값과 함께 가우시안 메커니즘을 사용해 쿼리 결과에 노이즈를 추가하기 위해.
• 모든 쿼리, 응답, 노이즈 수준 및 남은 개인정보 보호 예산을 변경 불가능한 트랜잭션으로 기록하기 위해 블록체인 기반 시스템을 구현하기 위해.
• 블록체인 상의 스마트 계약을 사용해 예산 소진을 강제 적용하여, 개인정보 보호 예산이 소진된 후에는 자동으로 추가 쿼리를 차단하기 위해.
• 쿼리와 스마트 계약의 기밀성을 보호하기 위해 Proof-of-Authority 공인 방식을 사용하는 프라이빗 블록체인에 시스템을 구축하기 위해.
• 쿼리의 다양성을 제한하고 민감한 쿼리 내용 泄露 를 방지하기 위해 사전 정의된 표준 쿼리 목록을 제공하기 위해.

실험 결과

연구 질문

• RQ1 동일한 쿼리가 데이터셋에 대해 여러 번 요청될 경우, 차별적 비밀보장 비용을 어떻게 최소화할 수 있는가?
• RQ2 변조 방지 가능하고 투명한 시스템을 어떻게 구축하여 차별적 비밀보장 예산 한도를 추적하고 강제 이행할 수 있는가?
• RQ3 누적 개인정보 보호 비용을 줄이기 위해 노이즈가 포함된 쿼리 응답을 최적의 전략으로 재사용하는 방법은 무엇인가?
• RQ4 블록체인 기술을 어떻게 활용하여 책임성 확보와 개인정보 보호 예산 과다 사용 방지를 보장할 수 있는가?
• RQ5 쿼리 재사용, 노이즈 추가, 개인정보 보호 예산 유지 간의 실용적 트레이드오프는 무엇인가?

주요 결과

• 제안된 알고리즘은 쿼리 유사도와 개인정보 보호 파rameter를 기반으로 이전에 생성된 노이즈 응답을 지능적으로 재사용함으로써 누적 개인정보 보호 비용을 크게 감소시킨다.
• 블록체인 기반 시스템은 종단 간 투명성을 제공하여 데이터 소유주와 사용자가 모든 쿼리 활동을 감사하고 개인정보 보호 예산이 초과되지 않았음을 검증할 수 있다.
• 블록체인 상의 스마트 계약은 자동으로 예산 소진을 강제 적용하여, 한도에 도달한 후에는 더 이상 개인정보 보호 비용이 발생하지 않음을 보장한다.
• 사전 정의된 쿼리 유형과 민감도를 통해 실생활 구현에서 차별적 비밀보장의 효율적이고 확장 가능한 관리가 가능해진다.
• 프라이빗 블록체인과 액세스 제어를 통해 스마트 계약 및 쿼리 泄露 리스크를 완화함으로써 안전하고 기밀성을 유지하는 구현이 가능해진다.
• 이 방법은 반복 쿼리에 대해 총 개인정보 보호 비용을 최소화하도록 수학적으로 증명되었으며, 재사용 전략에 대한 철저한 이론적 검증이 이루어졌다.