[論文レビュー] Information Theoretic Secure Aggregation with User Dropouts

Yizhou Zhao, Sun Hua|arXiv (Cornell University)|Jan 19, 2021

Distributed Sensor Networks and Detection Algorithms被引用数 4

ひとこと要約

本稿は、ユーザーの離脱を伴うフェデレーテッドラーニングにおける情報理論的セキュアアグリゲーションを研究し、サーバーが生存ユーザーの入力の合計を計算できるが、追加情報は漏洩しないようにする2ラウンドプロトコルを提案する。主な結果は、$ U > T $ の場合、ラウンド1で1ユーザーあたり1記号、ラウンド2で生存ユーザー1人あたり$ 1/(U-T) $記号の通信コストが最適であり、サーバーと最大$ T $人のユーザーが共謀していても、情報理論的に安全であることを達成できることである。

ABSTRACT

In the robust secure aggregation problem, a server wishes to learn and only learn the sum of the inputs of a number of users while some users may drop out (i.e., may not respond). The identity of the dropped users is not known a priori and the server needs to securely recover the sum of the remaining surviving users. We consider the following minimal two-round model of secure aggregation. Over the first round, any set of no fewer than $U$ users out of $K$ users respond to the server and the server wants to learn the sum of the inputs of all responding users. The remaining users are viewed as dropped. Over the second round, any set of no fewer than $U$ users of the surviving users respond (i.e., dropouts are still possible over the second round) and from the information obtained from the surviving users over the two rounds, the server can decode the desired sum. The security constraint is that even if the server colludes with any $T$ users and the messages from the dropped users are received by the server (e.g., delayed packets), the server is not able to infer any additional information beyond the sum in the information theoretic sense. For this information theoretic secure aggregation problem, we characterize the optimal communication cost. When $U \leq T$, secure aggregation is not feasible, and when $U > T$, to securely compute one symbol of the sum, the minimum number of symbols sent from each user to the server is $1$ over the first round, and $1/(U-T)$ over the second round.

研究の動機と目的

• ユーザーの離脱が予測不能であり、複数ラウンドにわたり発生する可能性がある状況下でのフェデレーテッドラーニングにおける安全な合計計算の課題に対処すること。
• 生存ユーザーの入力の合計のみをサーバーが学習するが、一部のユーザーが離脱しても安全な2ラウンドセキュアアグリゲーションプロトコルのモデル化と分析を行うこと。
• 情報理論的セキュリティ下での基本的な通信コストの限界を特定すること。ここで、サーバーは最大$ T $人のユーザーと共謀し、すべてのメッセージ（離脱ユーザーのものも含む）を観測できる。
• 特に閾値$ T $と最小生存ユーザー数$ U $との関係において、セキュアアグリゲーションが実現可能となる条件を確立すること。

提案手法

• プロトコルは2ラウンド通信モデルを用いる：ラウンド1では、すべての$ K $ユーザーが入力と共有ランダムネスに基づいてメッセージを送信する。ラウンド2では、ラウンド1で生存したユーザーのみが追加のメッセージを送信する。
• ラウンド2のメッセージは、ラウンド1で確認された生存ユーザーの集合に基づいて適応的に選ばれるため、サーバーは生存ユーザーの入力の合計のみを復号できる。
• セキュリティは情報理論的制約によって保証される：共謀するサーバーが、すべての離脱ユーザーのメッセージにアクセスしても、生存ユーザーの入力の合計以外の情報を得ることはできない。
• 解析には、相互情報量とエントロピーの上限・下限を用いた情報理論的不等式が用いられ、メッセージサイズとランダムネス要件の下限が導出される。
• 重要な方程式には、条件付きエントロピーと相互情報量を用いて、$ U > T $ の場合にラウンド1で1ユーザーあたり最小1記号、ラウンド2で$ 1/(U-T) $記号が最小メッセージサイズであることを証明するものがある。
• 証明は、たとえば生存ユーザーが2名に限られるような状況を丁寧に選択することで、情報理論的下限を構築し、メッセージおよびランダムネスのサイズに対する制約を導出する。

実験結果

リサーチクエスチョン

• RQ1 ユーザーの離脱を伴う情報理論的セキュアアグリゲーションは、どのような条件下で実現可能か？
• RQ2 2ラウンドプロトコルにおいて、生存ユーザーの入力の合計を安全に計算するために必要な最小通信コストは何か？
• RQ3 最大$ T $人の共謀ユーザーが存在する場合、離脱を伴うセキュアアグリゲーションの通信効率にどのような影響を与えるか？
• RQ4 離脱ユーザーのメッセージをすべて観測しても、サーバーが合計以外の情報を得ることは防げるか？
• RQ5 セキュリティ、離脱に対するロバストネス、通信コストの間で、最適なトレードオフは何か？

主な発見

• セキュアアグリゲーションは$ U < T + 1$ の場合に実現不可能である。
• 通信コストが最適であるため、$ U > T $ の場合、ラウンド1で1ユーザーあたり1記号、ラウンド2で生存ユーザー1人あたり$ 1/(U-T) $記号の通信コストが最小である。
• 1ユーザーあたりの共有ランダムネスの最小量は、相互情報量とエントロピーの情報理論的下限から、少なくとも$ K $記号である。
• プロトコルは情報理論的セキュリティを達成する：離脱ユーザーのメッセージに完全なアクセスがあり、最大$ T $人のユーザーと共謀していても、サーバーは生存ユーザーの入力の合計のみを学習する。
• 通信コストは最適である。同様のセキュリティおよび正しさの制約を満たすプロトコルで、より小さいメッセージサイズを達成できるものは存在しない。