[論文レビュー] Polar Codes are Optimal for Lossy Source Coding

Satish Babu Korada, Rüdiger Urbanke|ArXiv.org|Mar 2, 2009

Error Correcting Code Techniques参考文献 25被引用数 12

ひとこと要約

この論文は、逐次取消し符号化を用いた極性符号が、二進対称源に対してシャノンのレート・ディストーション限界に達し、歪みの上限への収束が指数的であることを証明している。本研究は、損失ありソース符号化、二進ワイナー＝ツィブ問題、および二進ゲルファンド＝ピンスカー問題において最適性を確立し、ソース圧縮のための極化プロセスの新規分析を用いている。

ABSTRACT

We consider lossy source compression of a binary symmetric source using polar codes and the low-complexity successive encoding algorithm. It was recently shown by Arikan that polar codes achieve the capacity of arbitrary symmetric binary-input discrete memoryless channels under a successive decoding strategy. We show the equivalent result for lossy source compression, i.e., we show that this combination achieves the rate-distortion bound for a binary symmetric source. We further show the optimality of polar codes for various problems including the binary Wyner-Ziv and the binary Gelfand-Pinsker problem

研究の動機と目的

• 逐次取消し符号化を用いた極性符号が、二進対称源に対してレート・ディストーション限界に達することを証明すること。
• 極性符号の最適性をチャネル符号化から損失ありソース圧縮へと拡張すること。
• 極性符号が、二進ワイナー＝ツィブ問題やゲルファンド＝ピンスカー問題といった関連問題に対しても最適であることを示すこと。
• 逐次符号化下での歪みの収束速度を、設計限界に近づけること。
• 最適性能を達成しながらも、符号化および復号化の複雑性がO(N log N)のまま保たれることを確立すること。

提案手法

• 著者たちは、アリカンの元々のチャネル符号化研究で用いられた同じ再帰的構成を用いて、ソース符号化の文脈における合成チャネルの極化を分析している。
• 合成ソースチャネルの信頼性を表す新しい確率変数Z_nを定義し、ブロック長が増加するにつれてそれが1に収束することを分析している。
• 重要な補題では、二入力離散メモリレスチャネルの性質から導かれる、結合チャネルの信頼性の下界が提示されている。
• 本論文では、任意のβ < 1/2について、Z_n ≥ 1 − 2^{−2^{nβ}} である確率が1 − I(W)に収束することを証明している。ここでI(W)は相互情報量である。
• この結果を用いて、逐次符号化下での極性符号の期待歪みがブロック長Nに指数的に減少することを示している。
• この分析は、チャネル符号化における容量達成性能の証明に類似しているが、ソース符号化という双対問題に適応させている。

実験結果

リサーチクエスチョン

• RQ1 逐次取消し符号化を用いた極性符号は、二進対称源に対してシャノンのレート・ディストーション限界に達するか？
• RQ2 逐次符号化下での期待歪みが設計歪みDに収束する速度はいかほどか？
• RQ3 極性符号は、ワイナー＝ツィブ問題やゲルファンド＝ピンスカー問題といったより複雑なソース符号化問題に対しても最適性を保つのか？
• RQ4 ブロック長が増加するにつれて、合成ソースチャネルの信頼性（Z_nで測定）はどのように振る舞うか？
• RQ5 チャネル符号化で用いられる同じ低複雑性の符号化・復号化アルゴリズムを、損失ありソース圧縮に成功裏に適用できるか？

主な発見

• 任意の設計歪み0 < D < 1/2と任意のδ > 0について、レートがR(D) + δ以下である極性符号の列が存在し、期待歪みがD + O(2^{−N^β})未満になることが保証される。ここでβ < 1/2である。
• 期待歪みは、ブロック長NのN^βに指数的に収束する。
• 極性符号の符号化および復号化の複雑性はO(N log Nのまま保たれ、アリカンの元々のチャネル符号化方式と同一の複雑性を有する。
• 本論文は、極性符号が二進対称源に限らず、二進ワイナー＝ツィブ問題および二進ゲルファンド＝ピンスカー問題に対しても最適であることを確立している。
• Z_nの信頼性測度が1に収束する速度が指数的であることが示されており、n → ∞のとき、Pr(Z_n ≥ 1 − 2^{−2^{nβ}}) → 1 − I(W) となる。
• この結果により、極性符号が、低複雑性の符号化・復号化を備えた損失ありソース圧縮に対して、初めて証明可能な最適性を持つ符号であることが確認された。