[論文レビュー] Joint Source-Channel Coding Revisited: Information-Spectrum Approach

Te Sun Han|ArXiv.org|Dec 18, 2007

Wireless Communication Security Techniques参考文献 12被引用数 8

ひとこと要約

本稿は情報スペクトルアプローチを用いて共同ソース・チャネル符号化を再考し、一般のソースおよび一般のチャネルにおける信頼性の高い伝送のためのきつい必要十分条件を確立する。半強力対蹠性（semi-strong converse property）のもとで、一般化された分離原理が成立し、必要条件と十分条件の間に双対性が存在することが示され、従来の分離定理がこの性質を満たすソースおよびチャネルに対して成立することが証明される。

ABSTRACT

Given a general source with countably infinite source alphabet and a general channel with arbitrary abstract channel input/channel output alphabets, we study the joint source-channel coding problem from the information-spectrum point of view. First, we generalize Feinstein's lemma (direct part) and Verdu-Han's lemma (converse part) so as to be applicable to the general joint source-channel coding problem. Based on these lemmas, we establish a sufficient condition as well as a necessary condition for the source to be reliably transmissible over the channel with asymptotically vanishing probability of error. It is shown that our sufficient condition is equivalent to the sufficient condition derived by Vembu, Verdu and Steinberg, whereas our necessary condition is shown to be stronger than or equivalent to the necessary condition derived by them. It turns out, as a direct consequence, that separation principle in a relevantly generalized sense holds for a wide class of sources and channels, as was shown in a quite dfifferent manner by Vembu, Verdu and Steinberg. It should also be remarked that a nice duality is found between our necessary and sufficient conditions, whereas we cannot fully enjoy such a duality between the necessary condition and the sufficient condition by Vembu, Verdu and Steinberg. In addition, we demonstrate a sufficient condition as well as a necessary condition for the epsilon-transmissibility. Finally, the separation theorem of the traditional standard form is shown to hold for the class of sources and channels that satisfy the semi-strong converse property.

研究の動機と目的

• 情報スペクトルフレームワークにおいて、フェインスタインの補題およびヴェルデュ＝ハンの補題を一般のソースおよびチャネルに一般化すること。
• 一般のソースを一般のチャネルを介して信頼性を持って伝送できるためのきつい必要十分条件を導出すること。
• 必要条件と十分条件の間の双対性を調査し、ベンブー、ヴェルデュ、スタインバーグらの先行研究と比較すること。
• 従来の分離定理が一般化された設定においてどのような条件下で成立するかを確立すること。
• 半強力対蹠性が分離原理の有効性を保証する役割をどのように果たすかを特定すること。

提案手法

• 一般のソースおよびチャネルに対して、情報スペクトルフレームワークに適応する形でフェインスタインの補題（直接部分）およびヴェルデュ＝ハンの補題（逆部分）を一般化する。
• 漸近的挙動を分析するため、情報スペクトルエントロピー率 $\underline{H}({\bf V})$ および情報スペクトル相互情報量 $\underline{I}({\bf X};{\bf Y})$ を定義する。
• ソースおよびチャネルにおける半強力対蹠性の概念を導入し、発散する部分列における極限を用いて定義する。
• 半強力対蹠性が、ソース符号化およびチャネル符号化における「楽観的」および「悲観的」符号化レートの等価性と同値であることを確立する。
• これらの補題および定義を用いて、$\varepsilon$-伝送可能性および信頼性のある伝送のための必要十分条件を導出する。
• ソースまたはチャネルのいずれかが半強力対蹠性を満たす場合、従来の分離定理が $R_f({\bf V}) < C({\bf W}) \Rightarrow$ 伝送可能性 およびその逆の形で成立することを証明する。

実験結果

リサーチクエスチョン

• RQ1 情報スペクトルフレームワークにおいて、一般のソースが一般のチャネルを介して信頼性を持って伝送可能となる条件は何か？
• RQ2 伝送可能性のための必要条件と十分条件の関係としての双対性は、どのように解釈できるか？
• RQ3 一般のソースおよびチャネルに対して、分離原理はどのような意味で成立するのか？ また、どのような条件下で古典的分離定理と同値となるか？
• RQ4 半強力対蹠性がソース符号化およびチャネル符号化においてどのような意味を持つのか？
• RQ5 提案されたフレームワークは、ベンブー、ヴェルデュ、スタインバーグらが確立した条件と比べて、どのように改善されまたは異なっているか？

主な発見

• 本稿で提案された十分条件は、ベンブー、ヴェルデュ、スタインバーグらが導出した十分条件と等価であり、タイトさが確認された。
• 本稿で導出された必要条件は、ベンブー、ヴェルデュ、スタインバーグの研究における必要条件よりも厳密に強く、または同等であるため、より洗練された特徴付けがなされた。
• 必要条件と十分条件の間の双対性が確立されたが、これはベンブー、ヴェルデュ、スタインバーグの先行研究には完全には存在しなかった。
• ソースまたはチャネルのいずれかが半強力対蹠性を満たす場合、従来の分離定理は標準形で成立する。
• 半強力対蹠性は、固定長ソース符号化レートの下限 $R_f({\bf V})$ とその下限の極限 $\underline{R}_f({\bf V})$ の等価性と同値であり、同様にチャネル容量に対しても同様の関係が成り立つ。
• 混合ソースおよび混合チャネル（例：無記憶ソース／チャネルの凸結合）は、情報安定性や強力対蹠性がなくても半強力対蹠性を満たす可能性があり、その場合分離が可能になる。