[논문 리뷰] Private Learning on Networks

Shripad Gade, Nitin H. Vaidya|arXiv (Cornell University)|2016. 12. 15.

Privacy-Preserving Technologies in Data참고 문헌 50인용 수 11

한 줄 요약

이 논문은 개인의 목적 함수를 드러내지 않고도 사전에 비공개된, 가능하면 비볼록 함수의 합을 공동으로 최소화하는 프라이버시 보장 분산 최적화 알고리즘을 제안한다. 무작위 왜곡을 통한 보안 함수 공유와 이중 스토하스틱 혼합 행렬을 사용하여, 정점 연결성 조건 하에서 전역 최적해로 수렴하면서도 프라이버시를 보장하는 방법을 제시하며, 악성 공격자가 타당한 후보 함수들 사이를 구분할 수 없음을 증명한다.

ABSTRACT

Continual data collection and widespread deployment of machine learning algorithms, particularly the distributed variants, have raised new privacy challenges. In a distributed machine learning scenario, the dataset is stored among several machines and they solve a distributed optimization problem to collectively learn the underlying model. We present a secure multi-party computation inspired privacy preserving distributed algorithm for optimizing a convex function consisting of several possibly non-convex functions. Each individual objective function is privately stored with an agent while the agents communicate model parameters with neighbor machines connected in a network. We show that our algorithm can correctly optimize the overall objective function and learn the underlying model accurately. We further prove that under a vertex connectivity condition on the topology, our algorithm preserves privacy of individual objective functions. We establish limits on the what a coalition of adversaries can learn by observing the messages and states shared over a network.

연구 동기 및 목표

• 민감한 데이터가 네트워크에 분산된 에이전트들 간에 저장되는 분산 머신러닝 환경에서 프라이버시를 보존하는 데 도전하는 것.
• 에이전트들이 개인의 국소 함수를 폭 드러내지 않고도 글로벌 목적 함수를 공동으로 최적화할 수 있도록 하는 방법을 개발하는 것.
• 분산 최적화 환경에서 개인 목적 함수 프라이버시를 공식적으로 정의하고 달성하는 것.
• 네트워크 구조가 공격자 연합을 저지하기에 충분한 정점 연결성을 갖춘 경우, 프라이버시가 보존됨을 증명하는 것.
• 이론적 분석과 시뮬레이션을 통해 정확성, 수렴성, 프라이버시를 입증하는 것.

제안 방법

• 에이전트들은 이중 스토하스틱 혼합 행렬 B_k를 갖는 네트워크를 통해 모델 파라미터를 공유하기 위해 보안 다중당사자 계산 기반 프로토콜을 사용한다.
• 각 에이전트는 무작위 함수 R_I,J(x)에서 유도된 무작위 함수 R_{i,j}(x)를 추가하여 개인 목적 함수 f_i(x)를 왜곡함으로써, 총합 함수 f(x)가 그대로 유지되도록 보장한다.
• 알고리즘은 반복 업데이트를 위해 단조 감소하고 제곱 합계가 수렴하는 스텝 사이즈 α_k = 1/(k + 0.0001)를 사용한다.
• 에이전트들은 네트워크를 통해 상태 융합을 수행하는 공감 기반 경사 하강법 규칙을 사용하여 국소 모델 파라미터를 업데이트한다.
• 네트워크의 정점 연결성이 f를 초과할 경우, f명 이하의 공격자 연합이 타당한 후보 함수들 사이의 모호함을 줄일 수 없도록 하여 프라이버시를 보장한다.
• 총합 함수의 불변성과 대수적 변환을 활용하여 정확성과 프라이버시를 동시에 보존한다.

실험 결과

연구 질문

• RQ1 분산 최적화 알고리즘이 글로벌 합을 정확히 최소화하는 동안 개인 목적 함수의 프라이버시를 보존할 수 있는가?
• RQ2 어떤 네트워크 구조 조건이 공격자가 공유된 메시지에서 비공개 함수를 추론할 수 없도록 보장하는가?
• RQ3 비공개 함수를 어떻게 왜곡할 수 있는가? 이때 총합 해답은 그대로 유지되고 정확한 상태를 유지해야 한다.
• RQ4 분산 환경에서 공격자 연합이 비공개 함수에 대한 불확실성을 어느 정도 줄일 수 있는가?
• RQ5 제안된 알고리즘이 프라이버시 제약 조건 하에서 진정한 전역 최적해로 수렴하는가?

주요 결과

• 시뮬레이션 설정에서 총합 함수 f(x) = 2(x² + x⁴)에 대해 알고리즘이 전역 최적해 x* = 0로 정확히 수렴한다.
• 반복 평균은 최적점으로 수렴하며, 평균에서의 최대 편차는 시간이 지남에 따라 감소하여 에이전트 간의 공감이 이루어지고 있음을 나타낸다.
• RMS 오차 η²_k는 반복 과정에서 감소하여 분산 알고리즘의 수렴성과 안정성을 확인한다.
• 실제 기울기 ∇f_i(x)는 관측된 기울기 ∇f̂_i(x)와 근본적으로 다르며, 이는 공격자가 비공개 함수를 추정하는 것을 방지한다.
• 왜곡된 함수 f̂_i(x)는 원래 함수 f_i(x)와 상당히 다름을 보이며, 예를 들어 f̂_1(x) = -3x - 4x² - 4x³ + 2x⁴와 같이 효과적인 왜곡이 이루어졌음을 보여준다.
• 정점 연결성이 f를 초과하는 f-허용 그래프 조건 하에서 프라이버시가 보존되며, 관측 데이터와 일치하는 비공개 함수의 추측이 모두 동일하게 타당함을 보장한다.