[논문 리뷰] Customized Local Differential Privacy for Multi-Agent Distributed Optimization

Roel Dobbe, Ye Pu외 3명|arXiv (Cornell University)|2018. 06. 15.

Privacy-Preserving Technologies in Data참고 문헌 27인용 수 10

한 줄 요약

이 논문은 다중 에이전트 분산 최적화를 위한 맞춤형 국소 미분적 비밀유지 메커니즘을 제안하며, 에이전트들이 지역 감도와 필요에 따라 독립적으로 비밀유지 수준을 설정할 수 있도록 한다. 비정확한 교대 최소화 알고리즘을 사용해 통신에 노이즈를 주입함으로써, 목표 함수와 제약 조건 모두에 대해 ε-미분적 비밀유지를 보장하면서 수렴성과 부분최적성 경계를 유지한다. 마켓 기반 또는 비례 기반 방식을 통한 탄력적인 노이즈 할당이 가능하다.

ABSTRACT

Real-time data-driven optimization and control problems over networks may require sensitive information of participating users to calculate solutions and decision variables, such as in traffic or energy systems. Adversaries with access to coordination signals may potentially decode information on individual users and put user privacy at risk. We develop local differential privacy, which is a strong notion that guarantees user privacy regardless of any auxiliary information an adversary may have, for a larger family of convex distributed optimization problems. The mechanism allows agent to customize their own privacy level based on local needs and parameter sensitivities. We propose a general sampling based approach for determining sensitivity and derive analytical bounds for specific quadratic problems. We analyze inherent trade-offs between privacy and suboptimality and propose allocation schemes to divide the maximum allowable noise, a privacy budget, among all participating agents. Our algorithm is implemented to enable privacy in distributed optimal power flow for electric grids.

연구 동기 및 목표

• 에이전트 간 통신이 목표 함수와 제약 조건에 대한 민감한 데이터를 드러내는 분산 최적화에서의 비밀유지 누출 문제를 해결한다.
• 개별 에이전트가 지역적 필요와 매개변수 감도에 따라 비밀유지 수준을 맞춤화할 수 있는 국소 미분적 비밀유지 프레임워크를 개발한다.
• 노이즈가 있는 통신 하에서 분산 최적화의 비밀유지(ε)와 부분최적성(해의 오차) 간의 트레이드오프를 분석한다.
• 전체 허용 가능한 비밀유지 예산을 이질적인 에이전트들 간에 공정하고 효율적으로 할당하는 메커니즘—비례 및 마켓 기반(VCG-Kelly)—을 제안한다.
• 실세계 응용 분야인 전력망에서의 비밀유지 분산 최적 전력 흐름(distributed optimal power flow)에 본 방법을 구현하고 검증한다.

제안 방법

• 노이즈가 있는 통신에 내성을 갖도록 비정확한 교대 최소화 알고리즘(IAMA)을 조정하여, 비밀유지 편향이 가해진 상황에서도 수렴성을 확보한다.
• 지역 감도 분석을 통해 각 에이전트별로 고유한 노이즈 분산을 도입하며, 이는 볼록 문제에서 감도를 추정하기 위한 일반적인 샘플링 기반 방법에 기반한다.
• 국소 미분적 비밀유지 하에서 이차 최적화 문제에 대해 부분최적성과 비밀유지 손실에 대한 분석적 경계를 수립한다.
• 노이즈 할당을 제약 조건이 있는 최적화 문제로 설정하며, 에이전트가 비밀유지 수준에 대해 선호도를 표현하기 위해 대체 유틸리티 함수를 모델링한다.
• 두 가지 할당 메커니즘을 구현한다: (1) 에이전트 기여도에 기반한 비례적 노이즈 분산 공유, (2) 비밀유지 필요에 대한 정직한 보고를 유도하기 위한 VCG-Kelly 메커니즘.
• 전력망의 분산 최적 전력 흐름(OPF) 프레임워크에 비밀유지 메커니즘을 통합하여 실용적 타당성을 입증한다.

실험 결과

연구 질문

• RQ1 다양한 비밀유지 필요와 감도를 가진 분산 최적화 환경에서 국소 미분적 비밀유지는 어떻게 각 에이전트별로 맞춤화될 수 있는가?
• RQ2 노이즈가 있는 통신 하에서 분산 볼록 최적화의 비밀유지 수준(ε)과 결과로 발생하는 부분최적성 간의 트레이드오프는 어떠한가?
• RQ3 이질적인 비밀유지 요구를 가진 에이전트들 사이에서 총 허용 가능한 노이즈 분산(비밀유지 예산)을 어떻게 공정하고 효율적으로 할당할 수 있는가?
• RQ4 VCG-Kelly와 같은 마켓 기반 메커니즘은 비밀유지 할당에 어떻게 적응시킬 수 있으며, 정직한 보고와 효율적 균형을 보장할 수 있는가?
• RQ5 국소 미분적 비밀유지 하에서 이차 분산 최적화 문제에 대해 부분최적성과 비밀유지 손실에 대한 분석적 경계는 무엇인가?

주요 결과

• 제안된 방법은 에이전트들이 비밀유지 누출에 대해 다양한 감도를 가질 수 있음에도 불구하고, 분산 볼록 최적화에서 목표 함수 및 제약 조건 매개변수에 대해 ε-국소 미분적 비밀유지를 보장한다.
• 이차 문제에 대해 부분최적성에 대한 분석적 경계를 유도하였으며, 부분최적성이 노이즈 분산의 제곱과 반복 횟수에 비례함을 보여준다.
• 노이즈 수준이 지정된 범위 내에 있을 경우, 노이즈가 있는 통신 하에서도 비정확한 교대 최소화 알고리즘이 수렴함을 보장한다.
• VCG-Kelly 메커니즘은 개인의 인centives를 시스템 효율성과 일치시켜 비밀유지 선호도에 대한 정직한 보고를 보장하며, 내쉬 균형을 달성한다.
• 시장 메커니즘이 불가능한 경우, 특히 에이전트 간 사회경제적 격차가 존재하는 맥락에서 비례적 노이즈 할당이 공정한 대안임을 입증한다.
• 프레임워크는 전력망에서의 분산 최적 전력 흐름에 성공적으로 적용되어 실세계 제어 시스템에서의 실용성과 비밀유지 성능을 입증한다.