[論文レビュー] Remarks on the Most Informative Function Conjecture at fixed mean

Guy Kindler, Ryan O’Donnell+1 more|arXiv (Cornell University)|Jun 10, 2015

Wireless Communication Security Techniques参考文献 2被引用数 9

ひとこと要約

本稿は、ガウス空間および球面上におけるCourtade–Kumar予想の連続的類似を解決し、相関のある入力における最も情報的なブール関数が座標関数によって最大化されることを証明する。再配分による対称化と、球面からガウス空間への極限的議論を用いて、ノイズ作用素の$Φ$-エントロピーがハーフスペース指標関数によって最大化されることを確立し、連続的設定における予想を裏付ける。

ABSTRACT

In 2013, Courtade and Kumar posed the following problem: Let $\boldsymbol{x} \sim \{\pm 1\}^n$ be uniformly random, and form $\boldsymbol{y} \sim \{\pm 1\}^n$ by negating each bit of $\boldsymbol{x}$ independently with probability $α$. Is it true that the mutual information $I(f(\boldsymbol{x}) \mathbin{;} \boldsymbol{y})$ is maximized among $f:\{\pm 1\}^n o \{\pm 1\}$ by $f(x) = x_1$? We do not resolve this problem. Instead, we make a couple of observations about the fixed-mean version of the conjecture. We show that Courtade and Kumar's stronger Lex Conjecture fails for small noise rates. We also prove a continuous version of the conjecture on the sphere and show that it implies the previously-known analogue for Gaussian space.

研究の動機と目的

• ガウス空間および球面上におけるCourtade–Kumar予想の連続的類似を解決すること。
• 連続的設定において、相互情報量$I(f({\boldsymbol{x}}); \boldsymbol{y})$が座標関数$f(x) = \pm x_i$によって最大化されることを確立すること。
• 高次元球面からガウス空間への極限的プロセスを介して、離散的予想を連続的領域へ拡張すること。
• 連続的設定において、ノイズ作用素$\mathrm{T}_\rho f$の$\Phi$-エントロピーがハーフスペース指標関数によって最大化されることを証明すること。

提案手法

• 球面の対称性と再配分による対称化を用いて、問題を球面上のハーフスペース関数に簡約する。
• 径方向拡張と重み関数を用いて、ブール関数の球面$S^{N-1}_R$上への拡張$f^{\mathrm{ext}}$を構築する。
• ブール関数のノイズ作用素$\mathrm{T}_\rho f$を一般化する球面ノイズ作用素$Q_\rho f^{\mathrm{ext}}(u)$を定義する。
• 次元$N \to \infty$における極限的議論を適用して、球面からガウス空間に移行し、ノイズ作用素とエントロピー関数の収束を示す。
• ガウスノイズ作用素$U_\rho f(y)$を用い、球面の$\Phi$-エントロピーがガウスの$\Phi$-エントロピーに収束することを証明する。
• 優越収束定理と核$U_{\rho,N}(y,z)$の評価を用いて、極限の交換を正当化する。

実験結果

リサーチクエスチョン

• RQ1 連続的ガウス空間および球面設定において、相互情報量$I(f({\boldsymbol{x}}); \boldsymbol{y})$は座標関数によって最大化されるか？
• RQ2 高次元球面からガウス空間への極限的プロセスを介して、離散的Courtade–Kumar予想を連続的領域に拡張し、解決可能か？
• RQ3 連続的空間において、ノイズ作用素$\mathrm{T}_\rho f$の$\Phi$-エントロピーはハーフスペース指標関数によって最大値に達するか？
• RQ4 次元$N \to \infty$において、球面ノイズ作用素$Q_\rho f^{\mathrm{ext}}$はガウスノイズ作用素$U_\rho f$にどのように収束するか？
• RQ5 球面からガウス空間への極限において、$\Phi$-エントロピー関数は保存されるか？

主な発見

• 連続的類似のCourtade–Kumar予想は成立する：$f: \mathbb{R}^n \to \{\pm 1\}$に対して、相互情報量$I(f({\boldsymbol{x}}); \boldsymbol{y})$は、$f$がハーフスペースの指標関数であるとき最大化される。
• 球面ノイズ作用素$Q_\rho f^{\mathrm{ext}}$の球面$\Phi$-エントロピーは、ハーフスペース拡張$\widetilde{f^{\mathrm{ext}}}$のそれ以上に上界を持つが、等号はハーフスペース関数の場合に限る。
• 次元$N \to \infty$において、球面ノイズ作用素$Q_\rho f^{\mathrm{ext}}$はガウスノイズ作用素$U_\rho f$に収束し、それに伴って$\Phi$-エントロピーも収束する。
• 球面$\Phi$-エントロピー関数の極限はガウス$\Phi$-エントロピーに一致し、連続的バージョンの予想が裏付けられる。
• この結果は、連続的設定における最も情報的な関数が、離散的状況と同様に座標関数であることを示唆する。
• 証明は再配分による対称化と、高次元球面からガウス空間への厳密な極限的議論に依存する。