[論文レビュー] Source Coding Problems with Conditionally Less Noisy Side Information

Roy Timo, Tobias J. Oechtering+1 more|arXiv (Cornell University)|Dec 11, 2012

Wireless Communication Security Techniques参考文献 20被引用数 4

ひとこと要約

本稿は、片方の受信者の側情報がもう片方より条件付きでノイジエアな新しいソース符号化問題のクラスにおいて、HeegardとBergerの1文字レート・ドレスタンス（RD）境界の最適性を確立する。Kramerの情報理論的テレスコピング恒等式に基づく新規な1文字化補題を用いて、逆方向の証明を構築し、この条件下で達成可能境界がタイトであることを確認する。これは、物理的に劣化した側情報の既存結果を拡張し、逐次的精錬設定へ一般化する。

ABSTRACT

A computable expression for the rate-distortion (RD) function proposed by Heegard and Berger has eluded information theory for nearly three decades. Heegard and Berger's single-letter achievability bound is well known to be optimal for \emph{physically degraded} side information; however, it is not known whether the bound is optimal for arbitrarily correlated side information (general discrete memoryless sources). In this paper, we consider a new setup in which the side information at one receiver is \emph{conditionally less noisy} than the side information at the other. The new setup includes degraded side information as a special case, and it is motivated by the literature on degraded and less noisy broadcast channels. Our key contribution is a converse proving the optimality of Heegard and Berger's achievability bound in a new setting. The converse rests upon a certain \emph{single-letterization} lemma, which we prove using an information theoretic telescoping identity {recently presented by Kramer}. We also generalise the above ideas to two different successive-refinement problems.

研究の動機と目的

• 任意に相関する側情報を有する複数受信者ソース符号化のレート・ドレスタンス関数を特徴付ける際のギャップを埋めること。
• 条件付きでノイジエアな側情報という、新たな側情報構造のクラスを同定し、HeegardとBergerの達成可能境界が最適であることを示すこと。
• 物理的に劣化した側情報やスケーラブルな側情報の設定を含む、側情報付きの逐次的精錬問題へ逆方向の技法を一般化すること。
• Kramerのテレスコピング恒等式に基づく新規な1文字化補題を開発し、逆方向の証明を可能にする。

提案手法

• 2つのn文字条件付き相互情報量の差を、補助確率変数を含む1文字表現で表す1文字化補題を導出する。
• テレスコピング恒等式を用いて、側情報付きの2受信者ソース符号化問題における逆方向の不等式鎖を簡略化する。
• 条件付きでノイジエアな側情報仮定の下で、Heegard-Berger問題の逆方向を確立し、彼らの達成可能境界の最適性を証明する。
• 物理的に劣化した側情報とスケーラブルな側情報の設定を含む2つの逐次的精錬問題へこの手法を拡張し、新たな逆方向境界を導出する。
• Fanoの不等式と連続性の議論を用いて、n → ∞およびε → 0における漸近的極限を扱う。
• 1文字特徴付けを達成するため、アルファベットサイズが|𝒳|以下である補助確率変数W₁, W₂, W₃を導入する。

実験結果

リサーチクエスチョン

• RQ1 任意に相関する側情報を有するソース符号化において、HeegardとBergerの1文字達成可能境界は最適か？
• RQ2 逆方向の証明は、物理的に劣化した側情報の範囲を超えて、より広い側情報構造クラスへ拡張可能か？
• RQ3 条件付きでノイジエアな側情報モデルでは、HeegardとBergerの境界と一致するタイトな逆方向が可能か？
• RQ4 提案された1文字化補題は、側情報付きの逐次的精錬問題へ適用可能か？
• RQ5 テレスコピング恒等式の技法を用いて、マルチターミナルソース符号化における新たな逆方向を導出可能か？

主な発見

• 逆方向により、条件付きでノイジエアな側情報モデル下でHeegardとBergerの達成可能境界が最適であることが証明され、この分野における長年の未解決問題が解決された。
• 主な技術的貢献は、Kramerの情報理論的テレスコピング恒等式を介して逆方向証明を可能にする1文字化補題である。
• 1つの受信者において決定的歪み関数を仮定し、ε → 0およびn → ∞の極限において境界が成り立つ。
• この手法は2つの逐次的精錬問題へ一般化可能であり、物理的に劣化した側情報とスケーラブルな側情報の設定を含み、新たな逆方向境界を導出する。
• 逆方向で導入された補助確率変数W₁, W₂, W₃のアルファベットサイズは|𝒳|で有界であり、1文字特徴付けが保証される。
• 証明は、(Y₁ ⪰ Y₂ | X̃₂)という仮定に依存しており、これはY₁がX̃₂を条件としてY₂より条件付きでノイジエアであることを意味し、物理的に劣化したケースを一般化する。