[論文レビュー] Source Coding with Fixed Lag Side Information

Emin Martinian, Gregory W. Wornell|ArXiv.org|Oct 4, 2004

Wireless Communication Security Techniques参考文献 11被引用数 19

ひとこと要約

本稿では、受信側に固定遅延の側情報が利用可能な場合の、無記憶有限アルファベット源のための低複雑性なソース符号化アルゴリズムを提案する。この手法は、フィードバック付きチャネル符号化との双対性を活用し、符号化の複雑性を線形に抑えつつ、歪み性能を最適化する。具体的には、元のソースの遅延した完全な知識（フィードフォワード側情報）を活用し、損失なし圧縮と成形技術を用いることで、線形複雑性で最適歪み性能を達成する。

ABSTRACT

We consider source coding with fixed lag side information at the decoder. We focus on the special case of perfect side information with unit lag corresponding to source coding with feedforward (the dual of channel coding with feedback) introduced by Pradhan. We use this duality to develop a linear complexity algorithm which achieves the rate-distortion bound for any memoryless finite alphabet source and distortion measure.

研究の動機と目的

• 固定遅延側情報を用いたソース符号化における利点を調査すること。特に、受信側がソース系列の遅延した完全な知識を受信する場合の性能を評価する。
• フィードバック付きチャネル符号化と双対となるフィードフォワード側情報が、計算複雑性を低減する符号化システムの設計にどのように寄与するかを検討すること。
• 任意の無記憶源および歪み測度に対して、理論的な率歪み限界に近づく実用的で線形複雑性の符号化・復号フレームワークを構築すること。
• フィードフォワード側情報は率歪み関数を変化させないが、標準的な損失なし圧縮および成形ツールの使用を可能にし、効率的なシステム設計を可能にする。

提案手法

• 著者らは、フィードフォワード付きソース符号化とフィードバック付きチャネル符号化との間の双対性を確立し、Ooi–Wornellのフィードバックチャネル方式に基づくソース符号化アルゴリズムを導出する。
• ブロックベースの符号化戦略を採用し、各ソースブロックを損失なし圧縮し、復号時に目的の分布に一致するように、算術符号化の双対を用いて再構成を成形する。
• エンコーダは、各サイズMのブロックをM·H(𝑥̂) + εビットで圧縮し、条件付きエントロピーH(𝑥̂|𝑥)に応じて圧縮レートを調整する。
• デコーダは遅延した側情報w_{i−Δ}を用いて𝑥̂_iを再構成し、相互情報量I(𝑥̂;𝑥)が達成可能なレートを決定する。
• レートは、I(𝑥̂;𝑥) × {1 + εK/(M H(𝑥̂|𝑥))} / {1 − [H(𝑥̂)/H(𝑥̂|𝑥)]^{-K}} という恒等式により上限が与えられ、MおよびKが増加するにつれてI(𝑥̂;𝑥)に収束する。
• 大きなMおよびKを選択することで、標準的な損失なし圧縮および成形モジュールのみを用いて、線形複雑性で率歪み関数に漸近的に到達できる。

実験結果

リサーチクエスチョン

• RQ1 固定遅延側情報、具体的にはソースの遅延した完全な知識を用いることで、低複雑性符号化により率歪み関数に到達可能か？
• RQ2 フィードフォワード付きソース符号化とフィードバック付きチャネル符号化との双対性は、効率的な符号化システムの設計にどのように寄与するか？
• RQ3 フィードフォワードソース符号化フレームワークで損失なし圧縮と成形を用いる場合の達成可能なレートは何か？ また、理論的な率歪み限界にどの程度近づけるか？
• RQ4 フィードフォワード側情報の使用により、任意の無記憶源および歪み測度に対して、線形複雑性のシステムが率歪み関数に近づけるか？
• RQ5 レートをI(𝑥̂;𝑥)に近づけつつ、計算複雑性を低く保てるようなシステム設計が可能か？

主な発見

• 提案されたソース符号化アルゴリズムは、フィードフォワード側情報と線形複雑性のコンponentsを用いることで、任意に小さい誤差で率歪み関数に到達する。
• ブロックサイズMとブロック数Kを増加させることで、レートをI(𝑥̂;𝑥)に任意に近づけられ、誤差項はMおよびKが増加するにつれて消える。
• システムは標準的な損失なし圧縮および成形技術（特に算術符号化とその双対）のみを用い、1シンボルあたり線形複雑性を達成する。
• Ooi–Wornellのフィードバックチャネル方式との双対性により、理論的率歪み限界に一致するソース符号化システムの構築が可能である。
• 無記憶フィードフォワードは率歪み関数を変化させないが、理論的限界に近づく実用的で低複雑性の実装を可能にする。
• 提案された方式では、情報理論的率歪み関数と運用的率歪み関数が一致し、アプローチの最適性が裏付けられる。