[논문 리뷰] Hiding in the Crowd: A Massively Distributed Algorithm for Private Averaging with Malicious Adversaries

Pierre Dellenbach, Aurélien Bellet외 1명|arXiv (Cornell University)|2018. 03. 27.

Privacy-Preserving Technologies in Data참고 문헌 5인용 수 5

한 줄 요약

이 논문은 수백만 명의 사용자 간에 비밀리에 평균을 계산하기 위한 탈중앙화된, 대규모 분산 알고리즘인 Gopa를 제안한다. 각 사용자는 자신의 비밀 값을 기여하지만, 이를 드러내지 않는다. 무작위로 전파되는 프로토콜과 노이즈 마스킹, 검증 메커니즘을 조합함으로써 Gopa는 정직하지만 호기심이 많은 악성 대상자 모두에 대해 프라이버시를 보장하며, 네트워크 크록수록 프라이버시 수준이 향상되고 대규모 위반에 대비한 강건성을 확보한다.

ABSTRACT

The amount of personal data collected in our everyday interactions with connected devices offers great opportunities for innovative services fueled by machine learning, as well as raises serious concerns for the privacy of individuals. In this paper, we propose a massively distributed protocol for a large set of users to privately compute averages over their joint data, which can then be used to learn predictive models. Our protocol can find a solution of arbitrary accuracy, does not rely on a third party and preserves the privacy of users throughout the execution in both the honest-but-curious and malicious adversary models. Specifically, we prove that the information observed by the adversary (the set of maliciours users) does not significantly reduce the uncertainty in its prediction of private values compared to its prior belief. The level of privacy protection depends on a quantity related to the Laplacian matrix of the network graph and generally improves with the size of the graph. Furthermore, we design a verification procedure which offers protection against malicious users joining the service with the goal of manipulating the outcome of the algorithm.

연구 동기 및 목표

• 수백만 명의 사용자 간에 탈중앙화되고 제3자에 의존하지 않는 환경에서 평균을 비밀리에 계산하는 문제에 대응한다.
• 정직하지만 호기심이 많은 악성 대상자 모델 모두에서 강력한 프라이버시 보장을 제공하며, 사용자 중 상당 부분이 손상된 경우에도 이를 보장한다.
• 신뢰할 수 있는 당사자나 히든 암호화 기법에 의존하지 않고도 정확성과 확장성을 유지하며, 임의의 정밀도에 수렴하는 프로토콜을 확보한다.
• 악성 사용자가 평균을 조작하려는 시도를 탐지할 수 있는 검증 메커니즘을 설계하면서도 종단 간 프라이버시를 유지한다.
• 네트워크 크기와 그래프 구조가 증가할수록 프라이버시가 향상되어 사용자가 '대중 속에 숨을 수 있다'는 점을 입증한다.

제안 방법

• 사용자들이 연결된 그래프로 표현된 피어 투 피어 네트워크를 통해 비동기적으로 값들을 교환하는 무작위로 전파되는 프로토콜을 사용하여 분산 평균 계산을 수행한다.
• 두 단계 프로토콜을 도입한다: 첫 번째 단계에서 사용자들은 이웃과 노이즈 항목을 교환하여 개인의 비밀 값을 마스킹하며, 이로 인해 전체 값의 합이 그대로 유지된다.
• 베이지안 프라이버시 분석을 적용하여 악성 대상자의 비밀 값에 대한 사후 분산의 감소를 정량화하며, 이는 사전 분산 대비 미미하게 유지됨을 보여준다.
• 프라이버시를 네트워크 그래프의 라플라시안 행렬과 연결하여, 그래프의 스무딩 성질이 특히 큰 무작위 k-out 그래프에서 프라이버시를 향상시킨다는 것을 보여준다.
• 사용자들이 노이즈 값의 일부(1−β)를 평문으로 공개함으로써 검증 절차를 구현하여, 위반 행위를 높은 확률로 탐지할 수 있도록 한다.
• 공개된 노이즈 값으로 인한 프라이버시 손실을 보완하기 위해 네트워크의 평균 차수를 증가시켜 강력한 프라이버시 보장을 유지한다.

실험 결과

연구 질문

• RQ1 탈중앙화되고 제3자에 의존하지 않는 프로토콜이 임의의 정밀도에 도달하는 평균 계산을 수행하면서도 모든 정직한 사용자의 프라이버시를 강력하게 보장할 수 있는가?
• RQ2 통신 네트워크의 구조(예: 그래프 토폴로지)가 악성 사용자가 존재할 경우 프라이버시 수준에 어떤 영향을 미치는가?
• RQ3 전파 과정에서 노이즈를 추가함으로써 수렴 속도와 정확도에 어떤 영향을 미치는가?
• RQ4 정직한 사용자의 프라이버시를 훼손하지 않고도 악성 사용자가 평균을 조작하는 것을 탐지할 수 있는 검증 메커니즘이 존재하는가?
• RQ5 사용자 수가 증가함에 따라 프라이버시 보장이 향상되는가? 특히 상당 수의 사용자가 악성일 경우에도 마찬가지인가?

주요 결과

• 악성 대상자의 비밀 값에 대한 사후 분산은 사전 분산 대비 극히 미미하게 감소하며, 이는 정직하지만 호기심이 많은 악성 대상자 모델 모두에서 강력한 프라이버시를 입증한다.
• 네트워크 크기와 그래프의 스무딩 성질이 증가할수록 프라이버시가 향상되며, 이는 라플라시안 행렬을 통해 정량화된다. 이는 사용자가 '대중 속에 숨을 수 있다'는 점을 의미한다.
• 목표 오차 수준에 도달하기 위한 반복 수는 노이즈 분산에 대해 로그적으로 증가하므로, 수렴 속도에 미치는 영향은 미미하다.
• 고정된 k를 가진 무작위 k-out 그래프에서 사용자 수(n)를 늘릴수록 프라이버시가 크게 향상되며, 사용자 중 최대 50%가 악성일 경우에도 마찬가지다.
• 검증 절차는 위반 행위를 최소 1−β²ᶜ의 확률로 탐지할 수 있으며, 여기서 C는 위반 사례의 수이다. 이는 대규모 조작을 거의 불가능하게 만든다.
• 노이즈 값의 일부를 평문으로 공개함으로써 프라이버시 손실은 미미하며, 이를 네트워크의 평균 차수를 증가시킴으로써 보완할 수 있다.