[論文レビュー] Generalized Common Informations: Measuring Commonness by the Conditional Maximal Correlation

Lei Yu, Houqiang Li+1 more|arXiv (Cornell University)|Oct 28, 2016

Wireless Communication Security Techniques参考文献 17被引用数 14

ひとこと要約

本稿では、条件付き最大相関を依存度指標として用い、一般化された共通情報測度—近似および正確な情報相関関数—を導入する。Gács-Körner、Wyner、Kumar-Li-Gamalの共通情報が特殊ケースとして統合され、プライベートなソース合成および共通情報抽出を通じて操作的特徴づけがなされ、関数が集中型設定下での条件付き最大相関制約を満たすために必要な最小共通性レートに等しいことが示された。

ABSTRACT

In literature, different common informations were defined by Gács and Körner, by Wyner, and by Kumar, Li, and Gamal, respectively. In this paper, we define two generalized versions of common informations, named approximate and exact information-correlation functions, by exploiting the conditional maximal correlation as a commonness or privacy measure. These two generalized common informations encompass the notions of Gács-Körner's, Wyner's, and Kumar-Li-Gamal's common informations as special cases. Furthermore, to give operational characterizations of these two generalized common informations, we also study the problems of private sources synthesis and common information extraction, and show that the information-correlation functions are equal to the minimum rates of commonness needed to ensure that some conditional maximal correlation constraints are satisfied for the centralized setting versions of these problems. As a byproduct, the conditional maximal correlation has been studied as well.

研究の動機と目的

• Gács-Körner、Wyner、Kumar-Li-Gamalの共通情報の定義を、単一の一般化フレームワークに統合すること。
• 条件付き最大相関を共通性またはプライバシー指標として用い、近似および正確な情報相関関数という2つの新しい一般化共通情報測度を定義すること。
• プライベートなソース合成および共通情報抽出の問題を通じて、これらの一般化測度に操作的解釈を与えること。
• 情報相関関数が集中型設定下で条件付き最大相関制約を満たすために必要な最小共通性レートに正確に一致することを確立すること。

提案手法

• 近似情報相関関数を、$ \rho_m(X^n;Y^n|UV) \leq \beta $ を満たす分布 $ P_{U|X^n}P_{V|Y^n} $ の下での $ I(X^nY^n; UV) $ の下界として定義する。
• 正確な情報相関関数を、$ \beta \to 1^- $ の極限における近似版の極限として定義し、最大相関制約下での正確な共通性を捉える。
• 条件付き最大相関を、共通ランダムネスが与えられたときのソース間の残存依存度の測度として用いることで、共通性とプライバシーの統一的取り扱いを可能にする。
• 確率的符号化の議論と典型性に基づく構成を用いて、分散型共通情報抽出（DCIE）問題の達成可能性および逆方向の境界を確立する。
• データ処理不等式および最大相関の性質を活用し、さまざまなマルコフ連鎖および時間共有スキーム下での条件付き最大相関を束縛する。
• 強大数法則および時間共有の確率変数 $ T $ を用いた対称性の議論により、多文字式を単文字式に簡約し、タイトな特徴づけを可能にする。

実験結果

リサーチクエスチョン

• RQ1 Gács-Körner、Wyner、Kumar-Li-Gamalの共通情報は、どのように単一の一般化フレームワークに統合できるか？
• RQ2 一般化された共通情報測度は、分散型ソース合成および共通情報抽出においてどのような操作的意味を持つのか？
• RQ3 条件付き最大相関は、一般化された共通情報を定義するための強固で内生的な依存度測度として用いられるか？
• RQ4 与えられたしきい値 $ \beta $ よりも小さいように、条件付き最大相関が制限されるようにするための最小共通ランダムネスレートは何か？
• RQ5 近似および正確な情報相関関数は、プライベートなソース合成および共通情報抽出問題における達成可能レートとどのように関係するか？

主な発見

• 近似情報相関関数 $ C_\beta^{(D)}(X;Y) $ は、分散型共通情報抽出問題において、条件付き最大相関が $ \beta $ 以下に抑えられるようにするための最小共通ランダムネスレートとして操作的に特徴づけられる。
• 正確な情報相関関数 $ C_{\beta}^{(D,LB)}(X;Y) $ は、$ \rho_m(X^n;Y^n|UV) \leq \beta $ を満たす分布の下での相互情報量の下界として等しく、$ \beta \to 1^- $ の極限で達成可能であることが示された。
• 情報相関関数は、既存の共通情報測度を一般化する：$ \beta = 0 $ のとき、関数はGács-Körner共通情報に簡約される。$ \beta \to 1^- $ のとき、Kumar-Li-Gamalの正確な共通情報に近づく。
• 本稿では $ R_{DCIE}(\beta) = C_\beta^{(D)}(X;Y) $ が証明され、最小共通ランダムネスレートと条件付き最大相関制約との間のタイトな操作的同等性が確立された。
• 条件付き最大相関が一対一変換に対して不変であり、内在的依存度の自然な測度として機能することが示され、共通性とプライバシーの統一的取り扱いが可能になった。
• 時間共有および対称性の議論を通じて、単文字式の下界 $ C_\beta^{(D)}(X;Y) \geq C_\beta^{(D,LB)}(X;Y) $ が導出され、逆方向の証明が完成し、特徴づけのタイトさが確認された。