[논문 리뷰] Private Learning on Networks: Part II

Shripad Gade, Nitin H. Vaidya|arXiv (Cornell University)|2017. 03. 27.

Privacy-Preserving Technologies in Data참고 문헌 35인용 수 12

한 줄 요약

이 논문은 네트워크화된 다중 에이전트 시스템에서의 프라이버시를 향상시키기 위해 구조적 랜덤화를 사용하는 두 가지 확률적 분산 최적화 알고리즘—RSS-NB 및 RSS-LB—을 제안한다. 통신 중 상태 추정치에 상관관계가 있는 노이즈를 추가함으로써, 전역 최적해로의 결정적 수렴을 보장하면서도 개별 에이전트의 목적 함수 프라이버시를 유지한다. 특히 특정 네트워크 연결 조건 하에서 효과적이다.

ABSTRACT

This paper considers a distributed multi-agent optimization problem, with the global objective consisting of the sum of local objective functions of the agents. The agents solve the optimization problem using local computation and communication between adjacent agents in the network. We present two randomized iterative algorithms for distributed optimization. To improve privacy, our algorithms add "structured" randomization to the information exchanged between the agents. We prove deterministic correctness (in every execution) of the proposed algorithms despite the information being perturbed by noise with non-zero mean. We prove that a special case of a proposed algorithm (called function sharing) preserves privacy of individual polynomial objective functions under a suitable connectivity condition on the network topology.

연구 동기 및 목표

• 에이전트들이 상태 추정치를 공유함으로써 민감한 국지적 데이터가 泄露될 수 있는 분산 최적화에서의 프라이버시 泄露 문제를 해결한다.
• 비영 평균 노이즈로 상태 정보를 훼손함에도 불구하고 수렴성을 유지하는 분산 최적화 알고리즘을 개발한다.
• 특히 다항식 최적화 설정에서 개별 에이전트의 목적 함수에 대해 강력한 프라이버시 보장을 제공한다.
• MNIST 및 Reuters와 같은 실제 데이터셋을 활용한 실험을 통해 이론적 프레임워크를 검증한다.
• 알고리즘의 정확성을 유지하면서도 프라이버시와 수렴성의 균형을 이루기 위해 구조적 랜덤화를 도입한다.

제안 방법

• 에이전트 간 통신 중 상태 추정치에 상관관계가 있는 랜덤 노이즈를 추가하는 RSS-NB(네트워크 균형) 및 RSS-LB(로컬 균형) 알고리즘을 도입한다.
• 비영 평균 편향이 존재하는 상황에서도 수렴성을 유지하기 위해 노이즈가 에이전트 간 상관관계를 가지도록 구조적 랜덤화를 적용한다.
• 편향이 상태에 따라 달라지는 특수 케이스인 함수 공유(Function Sharing, FS)를 적용하여 목적 함수의 가림 효과를 시뮬레이션한다.
• 특정 네트워크 토폴로지 성질—특히 연결 조건—을 활용하여 다항식 최적화에서의 프라이버시 보장을 보장한다.
• 리아푸노프 분석과 편향의 유계성에 기반해 결정적 수렴성을 증명하며, 상관관계가 있는 노이즈가 존재하는 상황에서도 성립한다.
• 유한 시간 오차 한계와 리프시츠 연속성 조건을 활용하여 수렴 속도를 $\mathcal{O}\left((1+\Delta^{2})\frac{\log(T)}{\sqrt{T}}\right)$ 형태로 유도한다.

실험 결과

연구 질문

• RQ1 상태 추정치에 구조적 비영 평균 랜덤 노이즈가 도입된 경우에도 분산 최적화 알고리즘이 결정적 수렴성을 유지할 수 있는가?
• RQ2 정보 교환에도 불구하고 개별 에이전트의 목적 함수가 프라이버시를 유지할 수 있는 네트워크 토폴로지 조건은 무엇인가?
• RQ3 구조적 랜덤화는 분산 학습 작업의 수렴 속도와 최종 정확도에 어떤 영향을 미치는가?
• RQ4 제안된 알고리즘이 최적화 성능을 희생시키지 않고 강력한 프라이버시 보장을 달성할 수 있는가?
• RQ5 분산 최적화에서 프라이버시와 수렴성 간의 트레이드오프는 무엇이며, 이를 정량적으로 분석할 수 있는가?

주요 결과

• RSS-NB 및 RSS-LB 알고리즘은 비영 평균 노이즈를 포함한 구조적 랜덤화를 적용함에도 불구하고 전역 최적해로의 결정적 수렴을 달성한다.
• 함수 공유(FS) 변종은 적절한 네트워크 연결 조건 하에서 개별 다항식 목적 함수의 프라이버시를 유지한다.
• 이론적 분석을 통해 수렴 속도가 $\mathcal{O}\left((1+\Delta^{2})\frac{\log(T)}{\sqrt{T}}\right)$임을 입증하며, 여기서 $\Delta$는 노이즈 크기를 캡처한다.
• MNIST 및 Reuters 데이터셋에 대한 실험을 통해 추가된 랜덤화에도 불구하고 높은 모델 정확도를 확보하여 이론적 수렴성 및 프라이버시 주장의 타당성을 검증한다.
• 딥 네ural 네트워크 학습 및 로지스틱 회귀 작업에서 비프라이버시 기반 모델과 비교해도 성능에 큰 손실 없이 강력한 프라이버시를 유지한다.
• 상관관계가 있는 노이즈의 사용으로 인해 편향이 수렴성을 떨어뜨리지 않으며, 실용적인 프라이버시-수렴 균형 트레이드오프를 가능하게 한다.