[論文レビュー] Information Theory of Data Privacy

Genqiang Wu, Xianyao Xia+1 more|arXiv (Cornell University)|Mar 22, 2017

Privacy-Preserving Technologies in Data参考文献 35被引用数 3

ひとこと要約

この論文は、シャノン暗号理論フレームワークと敵対者による不確実性の下限を統合したベイジアン推論に基づくプライバシー・モデルを提案する。敵対者の不確実性がこの下限を超える場合、特に大規模なデータセットにおいて、個々の個人に対して得られる情報が最小限に抑えられるように保証することで、プライバシーメトリクスにおけるベイジアンリスク要因の使用に原理的根拠を与える。同時に、4つの調整可能なパラメータを用いることで、プライバシーと有用性の間で柔軟なトレードオフを実現する。

ABSTRACT

By combining Shannon's cryptography model with an assumption to the lower bound of adversaries' uncertainty to the queried dataset, we develop a secure Bayesian inference-based privacy model and then in some extent answer Dwork et al.'s question [1]: why Bayesian risk factors are the right measure for privacy loss. This model ensures an adversary can only obtain little information of each individual from the model's output if the adversary's uncertainty to the queried dataset is larger than the lower bound. Importantly, the assumption to the lower bound almost always holds, especially for big datasets. Furthermore, this model is flexible enough to balance privacy and utility: by using four parameters to characterize the assumption, there are many approaches to balance privacy and utility and to discuss the group privacy and the composition privacy properties of this model.

研究の動機と目的

• ドーウク他が提起した、なぜベイジアンリスク要因がプライバシー損失を測定するのに適切であるかという未解決の問いに応えること。
• 情報理論に裏打ちされたプライバシーモデルを形式化し、データセット内の個人に関する敵対者の知識を制限すること。
• 特に大規模なデータセットにおいてほとんど常に満たされる、敵対者の不確実性の下限を確立すること。
• 4つの設定可能なパラメータを用いて、プライバシーと有用性の間の調整可能なバランスを実現すること。
• モデルフレームワーク内でのグループプライバシーおよび複数クエリの合成特性の分析を支援すること。

提案手法

• シャノン暗号モデルとベイジアン推論を統合し、敵対者の不確実性を関数としてプライバシーをモデル化する。
• 敵対者のクエリ対象データセットに関する不確実性の下限を、基本的仮定として導入する。
• 4つのパラメータを用いて不確実性仮定を特徴づけ、プライバシーと有用性のトレードオフに対する柔軟な制御を可能にする。
• ベイジアンリスクの関数としてプライバシー損失を導出し、敵対者の不確実性が下限を超えると、情報の獲得量が最小限に抑えられることを示す。
• モデルを用いてグループプライバシーおよびクエリの合成特性を分析し、スケーラビリティと頑健性を実証する。
• 特に大規模データセットにおいて成立するという仮定に基づき、理論的保証を確保する。

実験結果

リサーチクエスチョン

• RQ1 なぜベイジアンリスク要因がデータ公開におけるプライバシー損失を測定するのに適切な指標であるのか？
• RQ2 敵対者の不確実性が下限で制限される場合、個人の情報漏洩を最小限に抑えるプライバシーモデルはどのように構築できるか？
• RQ3 このモデルがグループプライバシーおよび複数クエリの合成に与える影響は何か？
• RQ4 パラメータ設定によって、このモデルはどのようにしてプライバシーと有用性のバランスを柔軟にとれるか？
• RQ5 敵対者の不確実性の下限が成立する条件は何か？ また、その成立がモデルの有効性にどのように影響するか？

主な発見

• 敵対者のデータセットに関する不確実性と関連づけることで、ベイジアンリスク要因がプライバシー損失の自然な測定指標であることを正当化する。
• 敵対者の不確実性が下限を超える場合、モデルは出力における個々の個人の情報が最小限に抑えられることを保証する。
• この下限仮定は、特に大規模なデータセットにおいてほとんど常に成立するため、モデルは実用的かつ頑健である。
• 4つの調整可能なパラメータを用いることで、プライバシーと有用性の柔軟なトレードオフが可能であり、異なる脅威モデルにカスタマイズ可能である。
• フレームワークは、グループプライバシーおよびクエリの合成分析を自然に扱えるため、実世界のシステムへの適用性が向上する。
• 理論的基盤により、敵対者の知識に関する現実的な仮定のもとで、プライバシー損失が境界付きで予測可能であることが保証される。