[論文レビュー] Lattices for Distributed Source Coding: Jointly Gaussian Sources and Reconstruction of a Linear Function

Dinesh Krithivasan, S. Sandeep Pradhan|ArXiv.org|Jul 23, 2007

Wireless Communication Security Techniques参考文献 48被引用数 9

ひとこと要約

本稿は、共分散ガウス源の分散型ソース符号化のための格子ベースの符号化方式を提案する。符号化器は、平均二乗誤差を最小化するように線形結合を再構築する。個々の源を直接量子化する代わりに、線形関数を直接量子化することにより、特定のパrameter領域においてより優れたレート・歪みトレードオフを達成する。格子ベクトル量子化と相関のある格子構造のビニングを用いて、最適なレート領域への内包境界が導出される。

ABSTRACT

Consider a pair of correlated Gaussian sources (X1,X2). Two separate encoders observe the two components and communicate compressed versions of their observations to a common decoder. The decoder is interested in reconstructing a linear combination of X1 and X2 to within a mean-square distortion of D. We obtain an inner bound to the optimal rate-distortion region for this problem. A portion of this inner bound is achieved by a scheme that reconstructs the linear function directly rather than reconstructing the individual components X1 and X2 first. This results in a better rate region for certain parameter values. Our coding scheme relies on lattice coding techniques in contrast to more prevalent random coding arguments used to demonstrate achievable rate regions in information theory. We then consider the case of linear reconstruction of K sources and provide an inner bound to the optimal rate-distortion region. Some parts of the inner bound are achieved using the following coding structure: lattice vector quantization followed by "correlated" lattice-structured binning.

研究の動機と目的

• 2つ以上の共分散ガウス源の分散型ソース符号化問題に対処し、符号化器が平均二乗誤差を最小化するように線形結合を再構築すること。
• 従来のレート・歪み限界を改善し、個々の源をまず再構築する代わりに、直接的に線形関数を再構築することで、格子符号化技術を活用すること。
• 格子を用いた構造化符号化を用いて、この問題の最適なレート・歪み領域への内包境界を導出すること。
• この方式をK個の源に拡張し、格子ベクトル量子化と相関のある格子構造のビニングを用いて性能を分析すること。
• 特定のパrameter値において、特に高SNRまたは非対称相関領域において、従来の手法よりも優れた性能を達成することを示すこと。

提案手法

• 各符号化器は、観測された源のスケーリング版を格子ベクトル量子化により量子化する。
• 各符号化器は、源同士の相関を活用して、量子化出力に対して格子構造のビニングを実行する。
• 符号化器は、線形結合 $ Z = oldsymbol{c}^T oldsymbol{X} $ を最小二乗誤差で再構築する格子ベースの推定ルールを用いる。
• 復号関数は $ oldsymbol{ ilde{Z}} = \frac{\boldsymbol{c}^T \boldsymbol{\bar{\theta}}}{\boldsymbol{\bar{\theta}}^T \boldsymbol{\bar{\theta}} + q} (\boldsymbol{\theta} + \boldsymbol{Q}) $ として導出され、ここで $ \boldsymbol{\theta} $ はスケーリングされた源ベクトル、$ \boldsymbol{Q} $ はジタである。
• 歪みは解析的に $ D = \text{Var}(Z) - \frac{(\boldsymbol{c}^T \boldsymbol{\bar{\theta}})^2}{\boldsymbol{\bar{\theta}}^T \boldsymbol{\bar{\theta}} + q} $ と表現され、$ q $ は歪みを最小化するように選ばれる。
• レート領域は $ \textstyle\bigcup_{\boldsymbol{\theta}} \bigcap_{i=1}^K \big\backslash R_i \text{ で、} \textstyle\textstyle\bigsum_{i=1}^K 2^{-2R_i} \text{ が歪みと源の相関の関数によって有界である。} $

実験結果

リサーチクエスチョン

• RQ1 共分散ガウス源の線形関数を再構築する際、従来の方式と比較して格子ベース符号化がより優れたレート・歪みトレードオフを達成できるか。
• RQ2 個々の源を再構築するのではなく、線形関数を直接再構築することで、分散型ソース符号化における実現可能なレート領域が拡大するか。
• RQ3 与えられた歪み制約下で、レート領域を最大化するための最適なスケーリング因子 $ \boldsymbol{\theta} $ とビニングパラメータ $ q_i $ の選択は何か。
• RQ4 線形再構築における格子ベース方式の性能が、共分散ガウス分布におけるベルジャ・タン(inner bound)と比較してどうなるか。
• RQ5 高次元における最適な格子量子化器を用いた場合、再構築誤差と量子化ノイズの漸近的挙動は何か。

主な発見

• 提案された格子ベース方式は、線形再構築を伴う共分散ガウス源の分散型ソース符号化における最適なレート・歪み領域への内包境界を達成する。
• 特に源同士が強く相関している、または線形関数が源の相関構造とよく整合している場合、個々の源を最初に再構築する従来手法よりも性能が優れる。
• 歪みはスケーリングベクトル $ \boldsymbol{\theta} $ が係数ベクトル $ \boldsymbol{c} $ と一致する、すなわち $ \boldsymbol{\theta} = \rho \boldsymbol{c} $ のときに最小化され、これがレート領域を最大化する。
• ブロック長 $ n \to \infty $ のとき、有効な量子化ノイズ $ e_q $ は、Kullback-Leibler発散において平均が $ (\theta^T \boldsymbol{\bar{\theta}} + q) \boldsymbol{I} $ である白色ガウスベクトルに収束し、漸近的に最適性が保証される。
• レート領域は $ \textstyle\bigsum_{i=1}^K 2^{-2R_i} \text{ が } 1 - (\text{Var}(Z) - D) \frac{\boldsymbol{\theta}^T \boldsymbol{\bar{\theta}}}{(\boldsymbol{c}^T \boldsymbol{\bar{\theta}})^2} \text{ によって有界であると表され、} \boldsymbol{\theta} \text{ が } \boldsymbol{c} \text{ と平行のとき最大化される。}
• 格子符号化の使用により、確率的符号化の議論を回避する構造的かつ決定論的なアプローチが可能となり、分散関数再構築のためのより実用的で解析可能なフレームワークが提供される。