[論文レビュー] Rateless Codes for Finite Message Set

Navot Blits|arXiv (Cornell University)|Jan 27, 2012

Wireless Communication Security Techniques参考文献 11被引用数 3

ひとこと要約

本稿は、フィードバック付きの離散メモリレス通信路（DMC）における有限メッセージ集合に対して、非漸近的レートレス符号化フレームワークを提案する。逐次復号を用いて、固定誤り確率で可変レート伝送を実現する。メッセージ集合が拡大するにつれて達成可能レートがチャネル容量に収束することを示し、未知のチャネルに対しては混合確率割り当てを用いたユニバーサル復号器を導入することで、ソース・チャネル・サイド情報の事前知識がなくても完全なユニバーサル性を達成する。

ABSTRACT

In this study we consider rateless coding over discrete memoryless channels (DMC) with feedback. Unlike traditional fixed-rate codes, in rateless codes each codeword is infinitely long, and the decoding time depends on the confidence level of the decoder. Using rateless codes along with sequential decoding, and allowing a fixed probability of error at the decoder, we obtain results for several communication scenarios. The results shown here are non-asymptotic, in the sense that the size of the message set is finite. First we consider the transmission of equiprobable messages using rateless codes over a DMC, where the decoder knows the channel law. We obtain an achievable rate for a fixed error probability and a finite message set. We show that as the message set size grows, the achievable rate approaches the optimum rate for this setting. We then consider the universal case, in which the channel law is unknown to the decoder. We introduce a novel decoder that uses a mixture probability assignment instead of the unknown channel law, and obtain an achievable rate for this case. Finally, we extend the scope for more advanced settings. We use different flavors of the rateless coding scheme for joint source-channel coding, coding with side-information and a combination of the two with universal coding, which yields a communication scheme that does not require any information on the source, the channel, or the amount the side information at the receiver.

研究の動機と目的

• フィードバック付きのDMCにおける有限メッセージ集合のポイントツーポイント通信に対して、非漸近的解析が可能なレートレス符号化方式の開発。
• チャネル則が復号器に未知である状況において、信頼性の高い通信を達成する挑戦に、新規のユニバーサル復号指標を導入することで対応。
• レートレス符号化を共同ソース・チャネル符号化およびサイド情報付きソース符号化に拡張し、ソース統計やサイド情報の事前知識がなくても最適レートを達成すること。
• 達成可能レートがチャネル容量に収束する速度を、チャネルおよびソース統計の不確実性を考慮して定量すること。
• 完全なユニバーサル性—すなわち、ソース・チャネル・サイド情報のいかなる知識も持たない状況でも—レートレス符号化により、漸近的に最適なソース・チャネル符号化レートを達成できることを示すこと。

提案手法

• ウォルドの逐次尤度比検定（SPRT）に基づく停止時刻を用いた逐次復号を採用し、メッセージの信頼度が閾値を超えた段階で伝送を動的に終了する。
• 情報化復号器の場合、尤度比計算に既知のチャネル則を用いることで、停止時刻理論を応用したレート解析を可能にする。
• 未知のチャネル則を混合確率割り当てで置き換えるユニバーサル復号器を導入し、ユニバーサルと情報化の指標の差をバウンディングする。
• 得られたバウンディングを応用して、ユニバーサルケースにおける平均伝送時間を上界で評価し、情報化復号器の結果を活用する。
• ソース統計を尤度計算に組み込むことで、逐次復号器を共同ソース・チャネル符号化に適応させ、スレピアン＝ウルフおよびワイナー＝ツィブのレートを達成する。
• ユニバーサルチャネル符号化、共同ソース・チャネル符号化、サイド情報処理技術を統合した単一のユニバーサル方式を構築し、ソース・チャネル・サイド情報の事前知識が一切不要となる。

実験結果

リサーチクエスチョン

• RQ1 フィードバック付きのDMCにおける有限メッセージ集合に対して、既知のチャネル則を持つ場合のレートレス符号の達成可能レートは何か？
• RQ2 チャネル則が未知の場合、レートレス符号の性能はどの程度劣化するか？また、ユニバーサル復号器はこの損失を緩和できるか？
• RQ3 レートレス符号化は、復号器にサイド情報がある場合の最適なスレピアン＝ウルフレートを達成できるか？
• RQ4 メッセージ集合サイズが増加する際、達成可能レートがチャネル容量に収束する速度は何か？
• RQ5 ソース・チャネル・サイド情報のいかなる知識も持たない完全なユニバーサルレートレス符号化方式を設計でき、最適なソース・チャネル符号化レートを達成できるか？

主な発見

• 既知のチャネルの場合、メッセージ集合サイズ $M$ が増大するにつれて達成可能レートはチャネル容量に収束し、収束は $O(1/M)$ 項によって支配される。
• ユニバーサルケース（チャネルが未知）では、達成可能レートは $R = C ig(1 - O(rac{ ext{log } K}{K})ig) + O(rac{1}{K})$ となる。ここで $K$ はメッセージ集合サイズであり、漸近的最適性が示される。
• ユニバーサルケースの収束速度は、チャネル知識の欠如により $O(rac{ ext{log } K}{K})$ 項が加わり、情報化ケースの $O(rac{1}{K})$ より遅くなる。
• 共同ソース・チャネル符号化において、レートレス方式は最適な分離型レートを達成し、結合系の容量と一致する。
• サイド情報が復号器に存在する場合、レートは $R = rac{C}{ ext{H}(W|V)} ig(1 - O(rac{ ext{log } K}{K})ig) + O(rac{1}{K})$ に向上する。ここで $ ext{H}(W|V)$ は条件付きエントロピーである。
• 提案されたユニバーサル方式は、ソース分布・チャネル則・サイド情報の存在・量のいかなる知識も持たない状況でも、情報化ケースと同一の漸近的収束を達成し、最適なソース・チャネル符号化レートを実現する。