[論文レビュー] Measuring Information Leakage in Non-stochastic Brute-Force Guessing

Farhad Farokhi, Ni Ding|arXiv (Cornell University)|Apr 23, 2020

Privacy-Preserving Technologies in Data参考文献 33被引用数 4

ひとこと要約

本稿では、ブルートフォースによる推測に基づく非確率的情報漏洩測度を提案する。漏洩は、出力観測値の有無にかかわらず、最悪ケースの推測複雑度の比として定量化される。フレームワークは、プライベートデータと出力をモデル化するための不確実変数を用い、得られる最大漏洩測度は、データ処理不等式や運用的解釈可能性といった重要な公理を満たしており、最大最小情報と確率的最大漏洩に接続される。

ABSTRACT

We propose an operational measure of information leakage in a non-stochastic setting to formalize privacy against a brute-force guessing adversary. We use uncertain variables, non-probabilistic counterparts of random variables, to construct a guessing framework in which an adversary is interested in determining private information based on uncertain reports. We consider brute-force trial-and-error guessing in which an adversary can potentially check all the possibilities of the private information that are compatible with the available outputs to find the actual private realization. The ratio of the worst-case number of guesses for the adversary in the presence of the output and in the absence of it captures the reduction in the adversary's guessing complexity and is thus used as a measure of private information leakage. We investigate the relationship between the newly-developed measure of information leakage with the existing non-stochastic maximin information and stochastic maximal leakage that are shown arise in one-shot guessing.

研究の動機と目的

• 確率的モデルが利用できないまたは信頼できない状況に適した、運用的で非確率的な情報漏洩測度を開発すること。
• 不確実変数を用いて、確率的変数の非確率的同等物として、ブルートフォース推測攻撃者に対するプライバシーを形式化すること。
• 出力観測値の有無による推測複雑度の最悪ケースの低下に基づく漏洩メトリクスを定義すること。
• データ処理不等式、独立性、加法性といった、提案された漏洩測度の公理的性質を確立すること。
• 非確率的漏洩が、最大最小情報や確率的最大漏洩といった既存の概念とどのように関係するかを明らかにすること。

提案手法

• 確率的仮定を避けるために、不確実変数を用いてプライベートデータと出力をモデル化する。
• 情報漏洩を、出力観測値の有無にかかわらず攻撃者が必要とする最悪ケースの推測回数の比として定義する。
• 攻撃者が標的とする可能性のあるすべての感受性の属性について最適化することで、最大非確率的ブルートフォース漏洩を導入する。
• [1] からの公理を適用して設計をガイドし、攻撃者の行動に関する最小限の仮定と運用的解釈可能性を保証する。
• α→∞ の極限において、Sibson相互情報量を介して非確率的漏洩と確率的最大漏洩の関係を導出する。
• 最大非確率的漏洩が、出力の0次Rényiエントロピーと、出力が与えられた下でのプライベート変数の条件付きRényiエントロピーの和によって上界で抑えられることを証明する。

実験結果

リサーチクエスチョン

• RQ1 確率的モデルが利用できない非確率的フレームワークにおいて、情報漏洩はどのように測定できるか？
• RQ2 確率的仮定なしにブルートフォース推測シナリオにおける情報漏洩の運用的解釈は何か？
• RQ3 提案された非確率的漏洩測度は、最大最小情報や確率的最大漏洩といった既存の概念とどのように関係するか？
• RQ4 提案された漏洩測度は、データ処理不等式や加法性といった基本的公理を満たすか？
• RQ5 最大非確率的漏洩は、既知の情報理論的量で上界で抑えられるか？

主な発見

• 提案された非確率的ブルートフォース漏洩測度は、すべての重要な公理を満たす：運用的解釈、最小限の攻撃者仮定、データ処理不等式、独立性、加法性。
• 最大非確率的漏洩は、$ H_0(Y) + H_0(X|Y) $ で上界で抑えられ、ここで $ H_0 $ は0次Rényiエントロピーを表す。
• 最大非確率的漏洩は、確率的最大漏洩 $ \widetilde{\mathcal{L}}(X\rightarrow Y) $ とRényiエントロピー $ H_0(X|Y) $ の和によって上界で抑えられる。
• この測度は、非確率的設定における完璧な正確性を伴うワンショット推測から生じる最大最小情報に自然に接続される。
• このフレームワークにより、『識別可能性』と呼ばれる新しいプライバシー概念が可能となる。システムが $ \epsilon $-識別可能であるとは、その最大漏洩が $ \log_2(|\mathbb{X}|(1 - 2^{-\epsilon}) + 1) $ で抑えられる場合を指す。
• 非確率的漏洩は、確率的最大漏洩のロバストで分布に依存しない同等物を提供し、特に小規模データや非確率的レポートの場面で特に有用である。