[論文レビュー] Compress and Estimate in Multiterminal Source Coding

Alon Kipnis, Stefano Rini+1 more|arXiv (Cornell University)|Feb 6, 2016

Wireless Communication Security Techniques参考文献 15被引用数 4

ひとこと要約

本稿は、マルチターミナルリモートソース符号化のための「圧縮して推定する（CE）」方式を提案する。分散型エンコーダーは、ソースのノイズあり観測値を圧縮し、局所的な歪みを最小化する。中央の推定器は、エンコーダー出力を利用してソースを再構築する。主な貢献は、記憶なしチャネル下でのi.i.d.ソースに対して最適であることが証明された、CE歪みレート関数（CE-DRF）の単一記号特徴付けであり、それぞれの2次歪みとハミング歪み下でのガウス分布およびバイナリソースに対して閉形式の式が導出された。

ABSTRACT

We consider a multiterminal remote source coding problem in which a source sequence is estimated from the output of multiple source encoders, each having access only to a noisy observation of the source realization. Each remote encoder compresses its noisy observation sequence so as to minimize a local distortion measure which depends only on the distribution of its observed sequence, and is otherwise independent from the distribution of the underlying source. The latter is estimated at a central location from the output of each of the remote encoders. This source compression and estimation scenario leads to an achievable scheme for the remote multiterminal source coding problem which we term the compress-and-estimate (CE) scheme. For the case of a source with independently and identically distributed (i.i.d) elements observed through multiple memoryless channels, we derive a single-letter expression for the distortion in the CE scheme, which we refer to as the CE distortion-rate function (CE-DRF). We prove that the CE-DRF can be achieved by estimating the source realization from the output of any set of encoders, as long as each encoder attains its local rate-distortion function. We prove in addition a converse result saying that, for large enough blocklength, the distortion in estimating a finite sub-block of the source from the output of such encoders, averaged over all sub-blocks, does not exceed the CE-DRF. Finally, we derive closed-form expressions for the CE-DRF in the case of a Gaussian source observed through multiple AWGN channels under quadratic distortion, and for the case of a binary source observed through multiple biflip channels under Hamming distortion.

研究の動機と目的

• エンコーダーがソースのノイズありバージョンを観測し、局所的な歪み制約の下でそれらを圧縮しなければならない、リモートマルチターミナルソース符号化問題に対処すること。
• 中央デコーダーが圧縮された観測値を使用して正確なソース推定を可能にする統一的枠組み「圧縮して推定する（CE）」方式を開発すること。
• i.i.d.ソースに対して、CE歪みレート関数（CE-DRF）という単一記号表現を用いて、この設定における歪みの根本的限界を特徴付けすること。
• 各エンコーダーがその局所的レート-歪み関数に到達する場合、CE-DRFが達成可能であり、かつ大ブロック長に対しては逆方向の境界としても機能することを証明すること。
• ガウスソースとAWGNチャネル、バイナリソースとバイフラップチャネルの特定のソースおよびチャネルモデル下で、CE-DRFの閉形式表現を導出すること。

提案手法

• CE方式は、圧縮と推定を分離する。各リモートエンコーダーは、ソース分布に依存しない局所的歪み測度を最小化するために、自身のノイズあり観測値を圧縮する。
• 中央推定器は、すべてのエンコーダー出力を使用してソースを再構築し、圧縮データを推定の十分統計量として扱う。
• i.i.d.ソースが記憶なしチャネルを通じて観測される場合、情報理論的手法を用いてCE-DRFの単一記号表現を導出する。
• 大ブロック長に対して、サブブロックの平均歪みがCE-DRFを超えることはなく、これは最適性の意味で示される。
• 2次歪みとハミング歪みのメトリクス下で、相互情報量と発散測度を用いて、CE-DRFの閉形式表現を導出する。
• 記憶なしチャネルの構造とソース記号の独立性を活用して、歪みの特徴付けを簡素化する。

実験結果

リサーチクエスチョン

• RQ1 分散型圧縮と推定戦略は、マルチターミナルリモートソース符号化において根本的な歪み限界に到達可能か？
• RQ2 i.i.d.ソースに対して、「圧縮して推定する」方式が達成可能な歪みの単一記号特徴付けは存在するか？
• RQ3 有限のサブブロックを推定する際、大ブロック長に対してCE-DRFが逆方向境界として機能するか？
• RQ4 2次歪み下で複数のAWGNチャネルを通じて観測されるガウスソースに対して、CE-DRFの明示的表現は何か？
• RQ5 ハミング歪み下で複数のバイフラップチャネルを通じて観測されるバイナリソースに対して、CE-DRFは何か？

主な発見

• 記憶なしチャネルを通じて観測されるi.i.d.ソースに対して、CE-DRFは単一記号表現として導出され、CE方式の根本的限界を提供する。
• 各リモートエンコーダーがその局所的レート-歪み関数に到達する場合、ソース分布に依存せずCE-DRFは達成可能である。
• 大ブロック長に対して、ソースの任意の有限サブブロックにおける平均歪みはCE-DRFを超えることはなく、逆方向の結果が確立される。
• 複数のAWGNチャネルを通じて観測されるガウスソースに対して、CE-DRFは信号対雑音比とエンコーダー数を含む閉形式表現で与えられる。
• 複数のバイフラップチャネルを通じて観測されるバイナリソースに対して、ハミング歪み下でCE-DRFは閉形式で導出され、誤り確率とエンコーダーのレートを反映する。
• CE-DRFがタイトで最適であることが示され、同じエンコーダー制約下では、より低い歪みを達成するいかなる方式よりも優れている。