[論文レビュー] Customized Local Differential Privacy for Multi-Agent Distributed Optimization

Roel Dobbe, Ye Pu+3 more|arXiv (Cornell University)|Jun 15, 2018

Privacy-Preserving Technologies in Data参考文献 27被引用数 10

ひとこと要約

本稿では、複数エージェントの分散最適化に特化したローカル微分プライバシー機構を提案し、エージェントが局所的な感度とニーズに応じて個別にプライバシー水準を設定できるようにする。非正確な交互最小化アルゴリズムを用いた通信へのノイズ注入により、目的関数と制約の両方に対してε-微分プライバシーを保証するとともに、収束性とサブ最適性の境界を維持する。市場ベースまたは割合配分方式による柔軟なノイズ割り当てを実現する。

ABSTRACT

Real-time data-driven optimization and control problems over networks may require sensitive information of participating users to calculate solutions and decision variables, such as in traffic or energy systems. Adversaries with access to coordination signals may potentially decode information on individual users and put user privacy at risk. We develop local differential privacy, which is a strong notion that guarantees user privacy regardless of any auxiliary information an adversary may have, for a larger family of convex distributed optimization problems. The mechanism allows agent to customize their own privacy level based on local needs and parameter sensitivities. We propose a general sampling based approach for determining sensitivity and derive analytical bounds for specific quadratic problems. We analyze inherent trade-offs between privacy and suboptimality and propose allocation schemes to divide the maximum allowable noise, a privacy budget, among all participating agents. Our algorithm is implemented to enable privacy in distributed optimal power flow for electric grids.

研究の動機と目的

• エージェント間の通信が目的関数および制約に関する機微なデータを露呈する分散最適化におけるプライバシー漏洩を解決すること。
• 個々のエージェントが局所的なニーズとパラメータ感度に基づいてプライバシー水準をカスタマイズできるローカル微分プライバシー枠組みを構築すること。
• ノイズを含む通信下での分散最適化におけるプライバシー（ε）とサブ最適性（解の誤差）のトレードオフを分析すること。
• 全許容プライバシー予算をエージェント間で公平かつ効率的に割り当てるメカニズムとして、比例的およびマーケットベース（VCG-Kelly）の手法を提案すること。
• 実世界の応用として、電力系統におけるプライバシー保護型分散最適潮流（OPF）に本手法を実装・検証すること。

提案手法

• ノイズ通信に耐性を持つように非正確な交互最小化アルゴリズム（IAMA）を適合させ、プライバシー保護のための摂動に対しても収束を保証する。
• 局所的感度解析に基づくエージェント固有のノイズ分散を導入し、凸問題における感度推定の一般的サンプリングベース手法を用いる。
• ローカル微分プライバシー下での二次計画問題に対するサブ最適性およびプライバシー損失の解析的境界を確立する。
• ノイズ割り当てを制約付き最適化問題として定式化し、エージェントのプライバシー水準に対する好みをモデル化するための代理効用関数を導入する。
• 2つの割り当てメカニズムを実装する：(1) エージェントの貢献度に基づくノイズ分散の比例配分、(2) 真実のプライバシー要請を促進するVCG-Kellyメカニズム。
• 電力系統の分散最適潮流（OPF）フレームワークにプライバシー保護機構を統合し、実用的妥当性を実証する。

実験結果

リサーチクエスチョン

• RQ1 分散最適化環境において、エージェントが異なるプライバシー要件と感度を持つ場合、ローカル微分プライバシーをエージェントごとにカスタマイズする方法は何か？
• RQ2 ノイズを含む通信下での分散凸最適化において、微分プライバシーの水準（ε）と得られる解のサブ最適性との間にはどのようなトレードオフがあるか？
• RQ3 感度が異なるエージェントがいる状況下で、全許容ノイズ分散（プライバシー予算）を公平かつ効率的にエージェント間で割り当てる方法は何か？
• RQ4 VCG-Kellyのようなマーケットベースメカニズムを分散最適化におけるプライバシー割り当てに適応可能か？また、真実の報告を保証し、効率的ナッシュ均衡を達成できるか？
• RQ5 ローカル微分プライバシー下での二次分散最適化問題におけるサブ最適性およびプライバシー損失の解析的境界は何か？

主な発見

• 提案手法は、エージェントがプライバシー漏洩に対する感度が異なる場合でも、分散凸最適化において目的関数および制約パラメータの両方に対してε-ローカル微分プライバシーを保証する。
• 二次問題におけるサブ最適性の解析的境界が導出され、サブ最適性がノイズ分散の二乗および反復回数に比例して増大することを示した。
• ノイズレベルが指定された範囲内にある限り、ノイズ通信下でも非正確な交互最小化アルゴリズムの収束が保証される。
• VCG-Kellyメカニズムは、個々のインcentiveをシステム効率と一致させることで、プライバシー要請の真実報告を保証し、ナッシュ均衡を達成する。
• 市場メカニズムが利用できない状況、特にエージェント間の社会経済的格差が顕著な文脈では、比例的ノイズ割り当てが公平な代替手段であることが示された。
• 本フレームワークは、電力系統における分散最適潮流に成功裏に適用され、実世界の制御システムにおける実用的妥当性とプライバシー保護性能を実証した。