[論文レビュー] Dynamic Programming for Sequential Deterministic Quantization of Discrete Memoryless Channels

Xuan He, Kui Cai+2 more|arXiv (Cornell University)|Jan 7, 2019

Error Correcting Code Techniques参考文献 26被引用数 4

ひとこと要約

本稿では、一般のコスト関数 C における q-値入力離散的記憶なしチャネル (DMC) における最適逐次決定的量子化器 (SDQ) の設計のための動的計画法 (DP) フレームワークを提示する。SMAWK アルゴリズムとより単純な技法を用いて計算量を削減し、α-相互情報量の最大化や実用的な PAM システムへの応用を可能にする。

ABSTRACT

In this paper, under a general cost function $C$, we present a dynamic programming (DP) method to obtain an optimal sequential deterministic quantizer (SDQ) for $q$-ary input discrete memoryless channel (DMC). The DP method has complexity $O(q (N-M)^2 M)$, where $N$ and $M$ are the alphabet sizes of the DMC output and quantizer output, respectively. Then, starting from the quadrangle inequality, two techniques are applied to reduce the DP method's complexity. One technique makes use of the Shor-Moran-Aggarwal-Wilber-Klawe (SMAWK) algorithm and achieves complexity $O(q (N-M) M)$. The other technique is much easier to be implemented and achieves complexity $O(q (N^2 - M^2))$. We further derive a sufficient condition under which the optimal SDQ is optimal among all quantizers and the two techniques are applicable. This generalizes the results in the literature for binary-input DMC. Next, we show that the cost function of $α$-mutual information ($α$-MI)-maximizing quantizer belongs to the category of $C$. We further prove that under a weaker condition than the sufficient condition we derived, the aforementioned two techniques are applicable to the design of $α$-MI-maximizing quantizer. Finally, we illustrate the particular application of our design method to practical pulse-amplitude modulation systems.

研究の動機と目的

• q-値入力離散的記憶なしチャネル (DMC) における最適逐次決定的量子化 (SDQ) のための効率的な動的計画法の開発。
• 四角不等式と2つの最適化技法（SMAWK アルゴリズムとより単純なヒューリスティック）を用いて、DP 法による SDQ 設計の計算量を低減すること。
• すべての量子化器の中で最適な SDQ がグローバルに最適であるための十分条件を導出すること。これは、従来の二値入力結果を一般化するものである。
• α-相互情報量 (α-MI) の最大化がコスト関数クラス C に含まれることを示し、提案手法の適用を可能にすること。
• 特に AWGN および NVM チャネルにおける脈幅変調 (PAM) システムへの実用的応用を示すこと。

提案手法

• 量子化器を閾値 λ₀=0 < λ₁ < ... < λₘ=N でパrameter化することで、最適な SDQ を計算するための動的計画法の定式化を提案する。
• 相互情報量やその他の発散測度を一般化するコスト関数 C(Q) を用い、広範な適用可能性を実現する。
• コスト関数に四角不等式 (QI) を適用し、SMAWK アルゴリズムによる計算量削減を可能にする。
• 2つの計算量削減技法を導入する：1つは SMAWK アルゴリズムを用いて O(q(N−M)M) の計算量を達成し、もう1つはより単純な手法で O(q(N²−M²)) の計算量を達成する。
• コスト関数の構造とその準凸性の性質を分析することで、SDQ のグローバル最適性のための十分条件を導出する。
• α-相互情報量 (α-MI) の最大化が、十分条件よりも弱い条件下でも、計算量削減技法の適用が可能であることを証明する。

実験結果

リサーチクエスチョン

• RQ1 一般のコスト関数の下で、q-値入力 DMC における最適逐次決定的量子化器 (SDQ) を効率的に計算できるか？
• RQ2 DP を用いた SDQ 設計の計算量を、SMAWK アルゴリズムを用いて低減できる条件は何か？
• RQ3 α-相互情報量 (α-MI) を最大化する量子化器設計は、提案された DP および計算量削減フレームワークと互換性があるか？
• RQ4 すべての可能な量子化器の中で最適な SDQ がグローバルに最適であるための十分条件は何か？
• RQ5 提案手法は、AWGN および非揮発性メモリ (NVM) チャネルにおける PAM ベースの変調といった実用的通信システムにどのように応用できるか？

主な発見

• 提案された DP 法により、q-値入力 DMC に対して最適な SDQ 設計が計算量 O(q(N−M)²M) で達成される。
• SMAWK アルゴリズムを用いることで、計算量は O(q(N−M)M) に削減され、N や M が大きい場合に顕著な効率向上が達成される。
• より単純な計算量削減技法により、O(q(N²−M²)) の計算量が達成され、性能と実装の容易さの間の実用的トレードオフを提供する。
• すべての量子化器の中で最適な SDQ がグローバルに最適であるための十分条件が導出され、従来の二値入力結果を一般化する。
• α-相互情報量 (α-MI) コスト関数がフレームワークと互換性があることが示され、十分条件よりも弱い条件下でも計算量削減技法が適用可能である。
• 本手法が、AWGN および非揮発性メモリ (NVM) チャネルにおける PAM ベースの変調といった実用的システムに適用可能であることが実証され、実世界での関連性が裏付けられた。