[논문 리뷰] Privacy Preservation in Distributed Subgradient Optimization Algorithms

Youcheng Lou, Lean Yu외 1명|arXiv (Cornell University)|2015. 12. 30.

Distributed Control Multi-Agent Systems참고 문헌 20인용 수 4

한 줄 요약

이 논문은 암호 기법에 의존하지 않고도 기밀성을 보장하는 새로운 분산 서브기울기 투영 비동기 최적화 알고리즘을 제안한다. 비동기 업데이트 메커니즘과 볼록 투영 집합을 도입함으로써 악성 에이전트가 다른 에이전트의 서브기울기를 유추할 수 없도록 하면서, 표준 가정 하에 최적 수렴 속도를 달성한다.

ABSTRACT

Privacy preservation is becoming an increasingly important issue in data mining and machine learning. In this paper, we consider the privacy preserving features of distributed subgradient optimization algorithms. We first show that a well-known distributed subgradient synchronous optimization algorithm, in which all agents make their optimization updates simultaneously at all times, is not privacy preserving in the sense that the malicious agent can learn other agents' subgradients asymptotically. Then we propose a distributed subgradient projection asynchronous optimization algorithm without relying on any existing privacy preservation technique, where agents can exchange data between neighbors directly. In contrast to synchronous algorithms, in the new asynchronous algorithm agents make their optimization updates asynchronously. The introduced projection operation and asynchronous optimization mechanism can guarantee that the proposed asynchronous optimization algorithm is privacy preserving. Moreover, we also establish the optimal convergence of the newly proposed algorithm. The proposed privacy preservation techniques shed light on developing other privacy preserving distributed optimization algorithms.

연구 동기 및 목표

• 동기 알고리즘에서 악성 에이전트가 민감한 서브기울기를 추론할 수 있는 분산 서브기울기 최적화에서의 기밀성 泄露 문제를 해결하기 위해.
• 노이즈 주입이나 차별적 기밀성과 같은 기법에 의존하지 않는 비암호화 기반의 기밀성 보호 메커니즘을 설계하기 위해.
• 악성 에이전트가 데이터 교환을 수시로 모니터링하고 기록하는 악성 조건 하에서도 에이전트의 기밀 서브기울기가 보호되도록 보장하기 위해.
• 유계 서브기울기와 공동 네트워크 연결성 등의 온건한 가정 하에 제안된 비동기 알고리즘의 최적 수렴을 확립하기 위해.
• 유사 원리에 기반한 다른 기밀성 보장 분산 최적화 알고리즘 개발의 기반을 마련하기 위해.

제안 방법

• 각 에이전트가 자신의 로컬 업데이트 시퀀스에 따라 독립적으로 상태를 업데이트하는 비동기 분산 서브기울기 알고리즘을 도입한다.
• 상태 업데이트를 제약하기 위해 볼록 투영 집합을 활용하며, 이는 서브기울기 정보 泄露를 본질적으로 제한한다.
• 에이전트들이 동기화가 필요 없이 비동기 방식으로 업데이트하는 메커니즘을 적용함으로써, 악성 에이전트가 시간 단계 간 데이터를 관련지을 기회를 줄인다.
• 감소하는 스텝 사이즈 규칙을 적용하고 공약 평균화를 활용하여 최적 해로의 수렴을 보장한다.
• 리아푸노프 유사 함수를 사용하여 수렴성을 분석하고, 오차 항의 합산 가능성을 입증함으로써 수렴성을 확립한다.
• 서브기울기 관련 오차 항의 합이 수렴함을 입증함으로써, 알고리즘이 기밀성을 유지하면서 점차적으로 최적 해에 수렴함을 보여준다.

실험 결과

연구 질문

• RQ1 악성 에이전트가 다른 에이전트의 서브기울기를 점점 더 정확히 재구성할 수 없는 분산 서브기울기 알고리즘을 설계할 수 있는가?
• RQ2 업데이트 과정에서의 비동기성은 동기 대비 본질적으로 기밀성을 향상시키는가?
• RQ3 노이즈 주입이나 암호 기반 원리에 의존하지 않고도 기밀성을 유지할 수 있는가?
• RQ4 비동기적이고 기밀성 보장이 되는 분산 최적화 프레임워크에서 최적 수렴을 보장하는 조건는 무엇인가?
• RQ5 제안된 알고리즘은 기밀성과 수렴성 측면에서 악성 행동에 대해 강건한가?

주요 결과

• 유명한 동기 분산 서브기울기 알고리즘은 악성 에이전트가 거의 모든 인접 행렬에 대해 다른 에이전트의 서브기울기를 점점 더 정확히 학습할 수 있기 때문에 기밀성 보장이 되지 않는다.
• 볼록 투영 집합을 갖춘 제안된 비동기 알고리즘은 악성 에이전트가 전송된 모든 데이터를 관찰하더라도 서브기울기를 추론하는 것을 효과적으로 방지한다.
• 알고리즘은 최적 수렴 속도를 달성하며, 서브기울기 오차의 합이 시간이 지남에 따라 0으로 수렴한다.
• 수렴 증명을 통해 최적 해와의 제곱 거리의 극한값이 존재하고 유한하며, 공약 오차가 점차적으로 사라짐을 입증한다.
• 유계 서브기울기와 공동 네트워크 연결성 조건 하에서도 알고리즘이 수렴을 유지하며, 오차 항은 시간에 따라 합산 가능하다.
• 제안된 방법은 기존의 기밀성 보장 기법들에 비해 노이즈 없이 비암호화 방식의 대안을 제공하며, 고분산 노이즈로 인한 최적성 저하를 피한다.