[論文レビュー] Differentially Private Iterative Synchronous Consensus

Zhenqi Huang, Sayan Mitra+1 more|arXiv (Cornell University)|Jul 18, 2012

Distributed Control Multi-Agent Systems参考文献 14被引用数 21

ひとこと要約

本稿は、エージェントが初期状態のプライバシーを保護しながら共通の値に収束する分散システムにおける、微分プライバシーを満たす反復的コンSENSUS手法を提案する。クライアント・サーバー型および完全分散型プロトコルを提案し、メッセージに幾何級数的に減少するラプラスノイズを追加することで、収束性と $\epsilon$-微分プライバシーの両方を達成し、プライバシーと正確性の間の定量的トレードオフを実現する。

ABSTRACT

The iterative consensus problem requires a set of processes or agents with different initial values, to interact and update their states to eventually converge to a common value. Protocols solving iterative consensus serve as building blocks in a variety of systems where distributed coordination is required for load balancing, data aggregation, sensor fusion, filtering, clock synchronization and platooning of autonomous vehicles. In this paper, we introduce the private iterative consensus problem where agents are required to converge while protecting the privacy of their initial values from honest but curious adversaries. Protecting the initial states, in many applications, suffice to protect all subsequent states of the individual participants. First, we adapt the notion of differential privacy in this setting of iterative computation. Next, we present a server-based and a completely distributed randomized mechanism for solving private iterative consensus with adversaries who can observe the messages as well as the internal states of the server and a subset of the clients. Finally, we establish the tradeoff between privacy and the accuracy of the proposed randomized mechanism.

研究の動機と目的

• センサーネットワーク、プラトーニング車両、時 clocks 同期などのシステムにおけるプライバシー保護型分散協調のニーズに対応する。
• 同期的プライベートコンセンサス（SPC）問題を、微分プライバシー保証を備えた反復的コンセンサスの一種として形式化する。
• すべてのメッセージおよび内部状態を観測する誠実だが好奇心の強い攻撃者に対し、エージェントの初期値のプライバシーを保証する。
• 反復的コンセンサスにおける微分プライバシー（$\epsilon$ を通じて）と収束精度の間の形式的トレードオフを確立する。
• 攻撃者がクライアントの一部を侵害し、それらのメッセージおよび状態を観測できる状況下でも、フレームワークを完全分散型に拡張する。

提案手法

• クライアントのメッセージにラプラス分布に従うノイズを追加することで、反復的かつ同期的なコンセンサスに微分プライバシーを適用する。
• 幾何級数的に減少するノイズの分散を用いる：ノイズのスケールは時間とともに減少し、初期段階ではプライバシーを確保し、最終的にはゼロに近づくことで正確性を確保する。
• クライアント・サーバー型では、クライアントが $\theta(t) + \eta(t)$ をサーバーに送信する。ここで $\eta(t) \sim \text{Laplace}(0, b_t)$ であり、$b_t$ は幾何級数的に減少する。
• サーバーはすべてのノイズ付きメッセージの平均を計算し、フィードバック $y(t)$ としてクライアントに送信する。
• クライアントは線形結合により状態を更新する：$\theta(t+1) = \alpha \cdot y(t) + (1-\alpha) \cdot \theta(t)$ であり、収束が保証される。
• クライアントが直接ノイズ付き状態を交換する完全分散型に一般化し、部分的な侵害下でもプライバシーを維持できるようにノイズパラメータを調整する。

実験結果

リサーチクエスチョン

• RQ1 微分プライバシーは、分散システムにおける反復的コンセンサスプロトコルに意味的に適用可能か？
• RQ2 幾何級数的に減少するノイズは、強力なプライバシーと真の平均への最終的収束を両立させられるか？
• RQ3 提案されたメカニズムにおけるプライバシー（$\epsilon$）と正確性（収束半径 $r$）の定量的トレードオフは何か？
• RQ4 攻撃者がメッセージだけでなく、侵害されたクライアントの内部状態も観測できる場合、システムはどのようにプライバシーを維持するか？
• RQ5 中央サーバーが存在しない完全分散型アーキテクチャに、プライベートコンセンサスメカニズムを拡張可能か？

主な発見

• 提案されたメカニズムは、クライアント・サーバー型および完全分散型の両設定において、エージェントの初期値に対して $\epsilon$-微分プライバシーを達成する。
• ノイズの振幅が時間とともに幾何級数的に減少するため、真の平均への収束が保証され、漸近的に正しい結果が得られる。
• 正確性半径 $r$ は $O(\frac{1}{\epsilon \sqrt{\beta N}})$ のスケーリングを示し、より高いプライバシー（$\epsilon$）または少ないエージェント数（$N$）では正確性が低下することを示す。
• 図1はプライバシーと正確性のトレードオフを示しており、ノイズ減少率 $q$ を大きくするとプライバシーは向上するが、正確性は悪化する。
• プライバシーの証明は、隣接する初期状態からの実行トレースの間の全単射写像を構築することに依存しており、制御システム分野における新規な技術的アプローチである。
• 本フレームワークは、収束を主な目的とする反復的・クローズド・ループ制御システムに微分プライバシーを形式的に適用した初のものである。