[論文レビュー] Equivocations, Exponents and Second-Order Coding Rates under Various Rényi Information Measures

Masahito Hayashi, Vincent Y. F. Tan|arXiv (Cornell University)|Apr 10, 2015

Wireless Communication Security Techniques参考文献 53被引用数 5

ひとこと要約

本稿は、Rényi情報測度を用いて、等価エントロピー、誤差指数、第二順序コーディングレートの漸近的挙動を分析し、古典的なシャノンに基づくセキュリティ指標を一般化している。さまざまなRényiダイバージェンス下でのセキュリティ指標に対してタイトな境界を確立し、特に最小エントロピーおよび衝突エントロピーの領域において、$ s > 0 $ のRényi測度を用いる場合、キーレートと指数的減衰率がシャノンに基づく結果と顕著に異なることが示されている。

ABSTRACT

We evaluate the asymptotics of equivocations, their exponents as well as their second-order coding rates under various Rényi information measures. Specifically, we consider the effect of applying a hash function on a source and we quantify the level of non-uniformity and dependence of the compressed source from another correlated source when the number of copies of the sources is large. Unlike previous works that use Shannon information measures to quantify randomness, information or uniformity, we define our security measures in terms of a more general class of information measures--the Rényi information measures and their Gallager-type counterparts. A special case of these Rényi information measure is the class of Shannon information measures. We prove tight asymptotic results for the security measures and their exponential rates of decay. We also prove bounds on the second-order asymptotics and show that these bounds match when the magnitudes of the second-order coding rates are large. We do so by establishing new classes non-asymptotic bounds on the equivocation and evaluating these bounds using various probabilistic limit theorems asymptotically.

研究の動機と目的

• シャノンエントロピーを超える情報理論的セキュリティ指標をRényi情報測度およびそのGallager型類似物を用いて一般化すること。
• 特に、$ D_{1+s} $ のRényiダイバージェンス下での等価エントロピーの漸近的挙動を、均一性および相関する盗聴者ソースからの独立性の観点から定量すること。
• 固定圧縮レート下でのさまざまなRényiダイバージェンス下でのセキュリティ指標の指数的減衰率（誤差指数）を導出すること。
• セキュリティ指標の第二順序漸近的挙動を調査し、第二順序コーディングレートの大きさが大きい場合に一致するタイトな境界を確立すること。
• 最適キーレートとセキュリティ性能がRényi順序 $ s $ の選択に強く依存することを示すこと。

提案手法

• 非一様性および依存性を測定するセキュリティ指標として、Rényiダイバージェンス $ D_{1+s}(P_{f(A^n),E^n} \| P_{\text{mix},f(\mathcal{A}^n)} \times P_{E^n}) $ を用いる。
• Rényiダイバージェンスに基づく非漸近的等価エントロピーの境界を導出し、確率的極限定理（例：大数の法則、中心極限定理）を用いて評価する。
• SibsonおよびArimotoの相互情報量測度を、シャノン相互情報量のRényiベースの代替測度として導入・分析する。
• 条件付き確率のしきい値 $ c/M $ に基づく分割を用いて、$ C_{1-s}^{\uparrow}(f(A)|E|P_{AE}) $ の上界を導出する。これにより、漸近的制御が可能になる。
• 対称化および凸性の議論を用いて、ハッシュ関数のRényiダイバージェンスを最小化する最適性を証明し、$ s > 0 $ の $ (u)^{1-s} + (v)^{1-s} $ に関する不等式を用いる。
• leftover hash lemma フレームワークをRényiエントロピー設定に拡張し、特に最小エントロピーおよび衝突エントロピー（$ s=2 $）の領域に焦点を当てる。

実験結果

リサーチクエスチョン

• RQ1 Rényi情報測度の順序 $ s > 0 $ が、シャノン測度と比較してキーレートの根本的限界にどのように影響を与えるか？
• RQ2 ランダムハッシュ化下でのRényiベース等価エントロピーの指数的減衰率は何か？ これはシャノンベースの誤差指数とどのように異なるか？
• RQ3 Rényiセキュリティ指標の第二順序漸近的挙動は何か？ また、第二順序コーディングレートが大きい場合にどのように振る舞うか？
• RQ4 Rényi等価エントロピーに対するタイトな非漸近的境界を導出し、極限定理を用いて漸近的に評価可能か？
• RQ5 Rényi順序 $ s $ の選択が、相関する盗聴者ソースからの均一性および独立性を達成するハッシュ関数の性能にどのように影響を与えるか？

主な発見

• Rényi順序 $ s > 0 $ の場合、$ D_{1+s} $ のRényiダイバージェンスは、シャノンの場合（$ s=0 $）とは異なるキーレートの根本的限界を示し、最適レートがRényi順序に依存することを示している。
• Rényiベース等価エントロピーの指数的減衰率は、$ \frac{1}{n}\log D_{1+s}(P_{f(A^n),E^n} \| P_{\text{mix}} \times P_{E^n}) $ を用いて特徴づけられ、古典的誤差指数分析を一般化している。
• 第二順序漸近的挙動はタイトに境界づけられており、第二順序コーディングレートの大きさが大きい場合には境界が一致しており、漸近的タイトさが示されている。
• 最適ハッシュ関数は、$ \sum_i \left( \sum_{a \in f^{-1}(i)} P_A(a) \right)^{1-s} $ を最小化し、$ c/M $ でのしきい値による質量のバランシングによって達成される。
• Rényi順序 $ s=2 $ の場合、既知の衝突エントロピーに基づく境界が回復され、フレームワークがleftover hash lemmaの文脈で妥当であることが検証された。
• 本稿は、$ \mathrm{e}^{-\frac{s}{1-s}C_{1-s}^{\uparrow}(f(A)|E)} \leq \sum_e P_E(e) \left( P_{A|E=e}\{a: P_{A|E=e}(a) \geq c/M\} c^{-s} + P_{A|E=e}\{a: P_{A|E=e}(a) < c/M\}^{1-s} \right)^{\frac{1}{1-s}} $ を証明しており、セキュリティ指標のタイトな制御を可能としている。