[論文レビュー] A Practical Approach to Lossy Joint Source-Channel Coding

Maria Fresia, Giuseppe Caire|ArXiv.org|Feb 12, 2007

Error Correcting Code Techniques参考文献 68被引用数 11

ひとこと要約

本稿では、従来のソースコーダーにおけるエントロピー符号化を線形チャネル符号化に置き換えることで、深刻な誤り伝播を防ぐ実用的な共同ソース・チャネル符号化（JSCC）方式を提案する。量子化された変換係数（例：JPEG2000のビット平面）のマルコフ構造を活用することで、有限ブロック長領域において反復的ベリーフプロパゲーションデコードが可能となり、既存のソース符号化部品を再設計せずに、近似的に最適な歪み-レートトレードオフを達成する。

ABSTRACT

This work is devoted to practical joint source channel coding. Although the proposed approach has more general scope, for the sake of clarity we focus on a specific application example, namely, the transmission of digital images over noisy binary-input output-symmetric channels. The basic building blocks of most state-of the art source coders are: 1) a linear transformation; 2) scalar quantization of the transform coefficients; 3) probability modeling of the sequence of quantization indices; 4) an entropy coding stage. We identify the weakness of the conventional separated source-channel coding approach in the catastrophic behavior of the entropy coding stage. Hence, we replace this stage with linear coding, that maps directly the sequence of redundant quantizer output symbols into a channel codeword. We show that this approach does not entail any loss of optimality in the asymptotic regime of large block length. However, in the practical regime of finite block length and low decoding complexity our approach yields very significant improvements. Furthermore, our scheme allows to retain the transform, quantization and probability modeling of current state-of the art source coders, that are carefully matched to the features of specific classes of sources. In our working example, we make use of ``bit-planes'' and ``contexts'' model defined by the JPEG2000 standard and we re-interpret the underlying probability model as a sequence of conditionally Markov sources. The Markov structure allows to derive a simple successive coding and decoding scheme, where the latter is based on iterative Belief Propagation. We provide a construction example of the proposed scheme based on punctured Turbo Codes and we demonstrate the gain over a conventional separated scheme by running extensive numerical experiments on test images.

研究の動機と目的

• 分離型ソース・チャネル符号化における深刻な誤り伝播を、特に有限ブロック長および低複雑度の状況で解消すること。
• 変換、量子化、確率モデル化などの既存の最先端のソース符号化部品（例：JPEG2000）を維持しつつ、チャネルエラーに対する耐性を向上させること。
• エントロピー符号化を線形チャネル符号化に置き換えることで、漸近的最適性を保持しつつ、実用的性能を顕著に向上させられることを示すこと。
• JPEG2000などの標準と互換性があり、反復的デコードとパunctured Turbo Codesを用いた、実用的でモジュラーなJSCCフレームワークを提供すること。

提案手法

• 標準のソースコーダーにおけるエントロピー符号化段階を、量子化された変換係数を直接チャネルコドワードにマッピングする線形チャネル符号化段階に置き換える。
• 量子化インデックスの系列を条件付きマルコフ源としてモデル化し、ベリーフプロパゲーションによる効率的な逐次デコードを可能にする。
• 二段階の線形符号化構造を採用：外側ソース符号化（G2）がソースシンボルを中間シンボルにマッピングし、内側チャネル符号化（G1）がそれらをチャネルコドワードにマッピングする。
• 内側符号に対して最尤推定デコード、外側符号に対してMAPベースデコードを実施し、ベリーフプロパゲーションを用いた反復的デコードを実現する。
• パunctured Turbo Codesをチャネル符号として採用し、低複雑度で実装可能な実用的実装を可能にする。
• 情報理論的結果を活用：線形符号は容量限界に達し、ジッター付きスカラ量子化とエントロピー符号化は近似的にレート-歪み限界に達する。

実験結果

リサーチクエスチョン

• RQ1 標準のソースコーダーにおけるエントロピー符号化を線形チャネル符号化に置き換えることで、ノイズの多いチャネルにおける深刻な誤り伝播が解消されるか？
• RQ2 このアプローチは、有限ブロック長および低複雑度の状況において、漸近的最適性を維持しながら性能を向上させるか？
• RQ3 既存のソース符号化部品（例：JPEG2000のビット平面モデリング）が、共同ソース・チャネル符号化フレームワーク内でも維持可能か？
• RQ4 本稿で提案するJSCC方式の性能は、従来の分離型符号化方式と比較して歪みおよびビット誤り率の観点でどのように異なるか？
• RQ5 チャネルが量子化係数に誤りを導入した場合、反復的ベリーフプロパゲーションデコードが効果的にソースシンボルを回復できるか？

主な発見

• 提案されたJSCC方式は、特に歪みおよびビット誤り率の観点で、従来の分離型符号化方式に比べて、有限ブロック長領域において顕著な性能向上を達成する。
• 本方式は漸近的最適性を維持しており、チャネル容量Cとソースエントロピー率H̄の比C / H̄に近いレート効率を達成する。
• 広範な数値実験により、本方式が従来の分離型方式を上回ることを示しており、特に低SNRおよび高歪み領域で顕著な優位性を示す。
• パunctured Turbo Codesの使用により、低デコード複雑度と高い性能向上を両立した実用的実装が可能になる。
• エラーが発生した場合にエントロピー符号化が深刻な失敗を示すのを防ぐために、線形符号化に置き換えることで、誤り伝播の非深刻化が実現される。
• 変換、量子化、文脈モデリングの各コンponentsを再利用することで、JPEG2000などの既存のソース符号化標準とシームレスに統合可能である。