[論文レビュー] Unified Theory of Source Coding: Part II -- Multiterminal Problems

Soumya Jana|ArXiv.org|Aug 26, 2005

Wireless Communication Security Techniques参考文献 12被引用数 4

ひとこと要約

本稿は、非協力的エンコーダを備えたマルチターミナル・ソース符号化のための統一的情報理論的枠組みを提示する。これは、2端子問題における基本的原則を任意の数のソースへと拡張したものであり、歪み解析を典型性の議論から分離し、中間の無損失符号化とファノの不等式を活用することで、12のマルチターミナル構成すべてに対して無限次元の達成可能レート領域を導出する。12の構成は、損失なし、歪み制限あり、部分的・完全的・なしの側情報を伴うハイブリッド復元をカバーする。主な貢献は、エントロピー制約付き推定問題を特別な場合として含む、マルチターミナル・ソース符号化問題の一般解の確立である。

ABSTRACT

In the first paper of this two part communication, we solved in a unified framework a variety of two terminal source coding problems with noncooperative encoders, thereby consolidating works of Shannon, Slepian-Wolf, Wyner, Ahlswede-Körner, Wyner-Ziv, Berger {\em et al.} and Berger-Yeung. To achieve such unification we made use of a fundamental principle that dissociates bulk of the analysis from the distortion criterion at hand (if any) and extends the typicality arguments of Shannon and Wyner-Ziv. In this second paper, we generalize the fundamental principle for any number of sources and on its basis exhaustively solve all multiterminal source coding problems with noncooperative encoders and one decoder. The distortion criteria, when applicable, are required to apply to single letters and be bounded. Our analysis includes cases where side information is, respectively, partially available, completely available and altogether unavailable at the decoder. As seen in our first paper, the achievable regions permit infinite order information-theoretic descriptions. We also show that the entropy-constrained multiterminal estimation problem can be solved as a special case of our theory.

研究の動機と目的

• 非協力的エンコーダを備えたマルチターミナル・ソース符号化のための統一的情報理論的枠組みを構築し、従来の2端子結果を一般化すること。
• 損失なし復元、歪み制限あり復元、ハイブリッド復元を含む、すべての12のマルチターミナル・ソース符号化問題を体系的に分類・解明すること。
• 2端子設定からマルチターミナル設定へと、基本的ソース符号化原理を拡張し、歪み解析を典型性の議論から分離すること。
• 典型性のマルチターミナル拡張と中間の無損失符号化を用いて、無限次元の達成可能レート領域を導出すること。
• 一般性を示すために、エントロピー制約付きマルチターミナル推定問題を特別な場合として含めることを示すこと。

提案手法

• 歪み解析を典型性の議論から分離するマルチターミナル拡張の基本的ソース符号化原理を提案し、シャノンおよびワイナーザイブの典型性概念を一般化する。
• 中間のマルチターミナル無損失符号化とファノの不等式を用いて、達成可能レート領域の外挙動を確立する。
• 補助確率変数とソースの順序付き部分集合を含む条件付き相互情報量制約を用いて、達成可能領域の無限次元特徴付けを導出する。
• 4つの側情報サブケース（なし、部分的、完全的、混合）を含む、損失なし復元、歪み制限あり復元、ハイブリッド復元のすべての12の構成にこの枠組みを適用する。
• 一般問題の定式化が、2端子特別ケースとしてベルジャ・イェウ問題を包含していることを示す。
• 達成可能領域のコーナーポイントが、$ M'^\prime! $ 個のソース順序の順列によって完全に特徴付けられ、各コーナーポイントが $ R_i' = I(Y_i; Z_i | \overline{Z}_{I_{i-1}}, V) $ で定義されることを証明する。

実験結果

リサーチクエスチョン

• RQ1 スレピアン＝ウルフ、ワイナーザイブ、ベルジャ・イェウのような既存の2端子結果を一般化する、マルチターミナル・ソース符号化のための統一的枠組みをどのように構築できるか？
• RQ2 非協力的エンコーダと任意の歪み基準を備えたマルチターミナル・ソース符号化のための、最も一般的な達成可能レート領域は何か？
• RQ3 基本的ソース符号化原理を、任意の数のソースと混合復元モード（損失なし対歪み制限あり）を扱えるようにどのように拡張できるか？
• RQ4 側情報（部分的・完全的・混合）は、マルチターミナル設定における達成可能レート領域の形状にどのような役割を果たすか？
• RQ5 エントロピー制約付きマルチターミナル推定問題は、この一般枠組みの特別な場合として埋め込まれるか？

主な発見

• 本稿は、非協力的エンコーダを備え、損失なし・歪み制限あり・ハイブリッド復元モードを含む、12のマルチターミナル・ソース符号化問題の完全な解を確立する。
• 達成可能レート領域は、すべてのソースと補助変数の部分集合を含む条件付き相互情報量制約を用いた無限次元の記述で特徴付けられる。
• 達成可能領域のコーナーポイントは、$ M'^\prime! $ 個のソース順序の順列によって完全に記述され、各コーナーポイントは $ i \in I_{M'} $ に対して $ R_i' = I(Y_i; Z_i | \overline{Z}_{I_{i-1}}, V) $ で定義される。
• 外挙動は、中間のマルチターミナル無損失符号化とファノの不等式を用いて証明され、2端子の議論をマルチターミナル設定に拡張する。
• 理論は、ベルジャ・イェウ問題を2端子特別ケースとして包含するなど、従来の結果を統一的かつ一般化する。
• エントロピー制約付きマルチターミナル推定問題が、提案された枠組みの特別な場合として解けることが示された。