[논문 리뷰] Advancing Differential Privacy: Where We Are Now and Future Directions for Real-World Deployment

Rachel Cummings, Damien Desfontaines외 22명|arXiv (Cornell University)|2023. 04. 14.

Privacy, Security, and Data Protection인용 수 9

한 줄 요약

산업 규모의 시스템에 차등 프라이버시(DP)를 배포하기 위한 도전과제, 도구 필요성 및 연구 방향에 대한 워크숍 기반 개요로, 인프라, 프라이버시/유용성 트레이드오프, 감사를 강조하고 보장의 커뮤니케이션에 초점을 맞춘다.

ABSTRACT

In this article, we present a detailed review of current practices and state-of-the-art methodologies in the field of differential privacy (DP), with a focus of advancing DP's deployment in real-world applications. Key points and high-level contents of the article were originated from the discussions from "Differential Privacy (DP): Challenges Towards the Next Frontier," a workshop held in July 2022 with experts from industry, academia, and the public sector seeking answers to broad questions pertaining to privacy and its implications in the design of industry-grade systems. This article aims to provide a reference point for the algorithmic and design decisions within the realm of privacy, highlighting important challenges and potential research directions. Covering a wide spectrum of topics, this article delves into the infrastructure needs for designing private systems, methods for achieving better privacy/utility trade-offs, performing privacy attacks and auditing, as well as communicating privacy with broader audiences and stakeholders.

연구 동기 및 목표

• 산업 및 공공부문 맥락에서 차등 프라이버시(DP)를 배포할 때의 주요 실용적 도전과제를 파악한다.
• 비전문가의 채택을 지원하기 위한 DP 도구 및 인프라의 요구사항을 식별한다.
• DP 알고리즘 및 시스템의 프라이버시/유용성 트레이드오프와 확장성을 개선하기 위한 연구 방향을 개요한다.
• DP 구현의 검증을 위한 감사, 공격 테스트 및 벤치마킹 방법을 논의한다.
• 실제 제약을 고려하면서 최종 사용자 및 이해관계자에게 DP 보장을 전달하는 방법을 탐구한다.

제안 방법

• 산업계, 학계, 공공부문 참가자들과의 2022년 7월 DP 워크숍의 통찰을 종합한다.
• 배포의 실질적 도전과제를 구체적으로 제시하고 도구, 벤치마킹, 사용성에 대한 연구 의제를 제안한다.
• 엔드투엔드 시스템에서 DP를 구현하기 위한 가이드를 제공하며, 위협 모델 및 구성 간 고려사항을 포함한다.
• DP 채택과 효과성을 높이기 위한 공개 데이터 사용, 데이터 최소화 및 인프라 설계에 대해 논의한다.

실험 결과

연구 질문

• RQ1 산업 전반에 걸친 차등 프라이버시의 실제 현장 배치에서의 주요 도전과 장애물은 무엇인가?
• RQ2 확장 가능하고 사용하기 쉬운 DP 시스템을 지원하기 위해 필요한 도구, 인프라 및 프로세스 개선은 무엇인가?
• RQ3 공개 데이터, 데이터 적응 방법, DP 활성화 파이프라인을 통해 DP 트레이드오프를 어떻게 개선할 수 있는가?
• RQ4 DP 배포를 효과적으로 감사하고 공격 테스트하며 벤치마크하여 보장을 검증하는 방법은?
• RQ5 실무에서 DP 보장을 최종 사용자 및 이해관계자에게 어떻게 전달해야 하는가?

주요 결과

• DP는 통계 분석과 ML에 대한 지배적인 프라이버시 개념이 되었지만, 실제 채택은 위협 모델링, 매개변수 선택, 통합 및 비용에서 도전에 직면하고 있다.
• 강력한 DP 도구는 사용성, 오픈 소스 구현을 통한 신뢰성, 다양한 프라이버시 단위에 대한 지원, 대규모 데이터셋에 대한 확장성을 중점으로 삼아야 한다.
• 공개 데이터 및 데이터 적응/전이 학습 접근법은 특히 사전학습 및 개인화된 파인튜닝에서 DP 유용성을 향상시키는 데 가능성을 보인다.
• 감사 및 공격은 정보 누출을 제한하고 매개변수 선택을 안내하는 데 유용하지만, 최악의 경우 보장을 대체하지 못하며 신중하게 해석되어야 한다.
• 효과적인 프라이버시 커뮤니케이션은 데이터 최소화와 투명성 등을 포함하는 보다 광범위한 프라이버시 전략의 일부로 DP를 고려하고, 정책 및 규제 고려사항에 주의를 기울여야 한다.