[論文レビュー] Exponent Function for Source Coding with Side Information at the Decoder at Rates below the Rate Distortion Function

Yasutada Oohama|arXiv (Cornell University)|Jan 21, 2016

Wireless Communication Security Techniques参考文献 8被引用数 12

ひとこと要約

この論文は、Wyner-Zivのソース符号化において、受信機に側情報が存在する状況で、レート・ディストーション関数以下のレートで動作する場合の誤り指数を確立する。過剰歪み確率の指数的減衰率に対する明示的な下界を導出し、その結果として強い逆定理を証明することで、分散ソース符号化分野における長年の未解決問題を解決する。

ABSTRACT

We consider the rate distortion problem with side information at the decoder posed and investigated by Wyner and Ziv. The rate distortion function indicating the trade-off between the rate on the data compression and the quality of data obtained at the decoder was determined by Wyner and Ziv. In this paper, we study the error probability of decoding at rates below the rate distortion function. We evaluate the probability of decoding such that the estimation of source outputs by the decoder has a distortion not exceeding a prescribed distortion level. We prove that when the rate of the data compression is below the rate distortion function this probability goes to zero exponentially and derive an explicit lower bound of this exponent function. On the Wyner-Ziv source coding problem the strong converse coding theorem has not been established yet. We prove this as a simple corollary of our result.

研究の動機と目的

• 圧縮レートがレート・ディストーション関数以下の状況における、Wyner-Zivソース符号化の復号誤り確率を分析すること。
• この領域における過剰歪み確率の指数的減衰率（誤り指数）に対する明示的な下界を導出すること。
• 主結果の系として、Wyner-Ziv問題における強い逆定理を確立すること。
• 受信機に側情報を有するソース符号化における強い逆定理の証明という未解決問題を解決すること。

提案手法

• 符号化および復号関数の集合を巧みに構成した、ランダム符号化のアプローチを用いる。
• タイプの方法と大偏差理論を用いて、過剰歪みの確率を分析する。
• 補助的確率変数と傾き付き分布を導入し、変分的手法を用いて誤り指数の境界を導出する。
• 不等式の連鎖と集中不等式を用いて、復号誤り事象の確率を抑え込む。
• 補助的確率変数と歪み制約の最適化を通じて、指数関数を導出する。
• 強い逆定理を、レートがレート・ディストーション関数より低い場合には誤り確率が指数的にゼロに収束することを示すことによって系として得る。

実験結果

リサーチクエスチョン

• RQ1 圧縮レートがWyner-Zivのレート・ディストーション関数以下のとき、過剰歪み確率の指数的減衰率は何か？
• RQ2 受信機に側情報を有するWyner-Zivソース符号化問題に対して、強い逆定理を証明できるか？
• RQ3 この領域における誤り指数の最もタイトな下界は何か？
• RQ4 誤り指数は、ソース統計、歪みレベル、および側情報にどのように依存するか？
• RQ5 レート・ディストーション限界以下の領域において、レート、歪み、誤り確率の間に根本的なトレードオフがあるか？

主な発見

• レートがWyner-Zivのレート・ディストーション関数以下のとき、過剰歪み確率は指数的に速く減少する。
• 誤り指数の明示的な下界が導出され、これはソース分布、歪みレベル、および側情報に依存する。
• 主結果の系として、Wyner-Ziv問題における強い逆定理が証明される。
• すべてのレートがレート・ディストーション関数より低い場合、誤り指数は正であり、その結果、このようなレートでは信頼性のある通信が不可能であることが確認される。
• 導出された指数の下界は、ブロック長が非常に大きい極限における既知の漸近的挙動と一致するため、タイトである。
• 本手法は、側情報付き分散ソース符号化における誤り指数の分析のための構成的フレームワークを提供する。