[論文レビュー] Achieving the Quadratic Gaussian Rate-Distortion Function for Source Uncorrelated Distortions

Milan S. Derpich, Jan Østergaard+1 more|ArXiv.org|Jan 11, 2008

Advanced Data Compression Techniques参考文献 14被引用数 5

ひとこと要約

本稿は、源信号と相関のない歪み制約下における2次ガウス型のレート・ディストーション関数 $ R^{\bot}(D) $ が、無限次元極限における形状付きジタ付き格子量子化を用いて達成可能であることを証明している。主な結果として、因果的フィードバック量子化とメモリレスなエントロピー符号化を組み合わせることで、$ R^{\bot}(D) $ が達成可能であり、量子化器の空間充填損失に起因する有限次元でのレート損失は最大で 0.254 ビット/次元に抑えられることを示している。

ABSTRACT

We prove achievability of the recently characterized quadratic Gaussian rate-distortion function (RDF) subject to the constraint that the distortion is uncorrelated to the source. This result is based on shaped dithered lattice quantization in the limit as the lattice dimension tends to infinity and holds for all positive distortions. It turns out that this uncorrelated distortion RDF can be realized causally. This feature, which stands in contrast to Shannon's RDF, is illustrated by causal transform coding. Moreover, we prove that by using feedback noise shaping the uncorrelated distortion RDF can be achieved causally and with memoryless entropy coding. Whilst achievability relies upon infinite dimensional quantizers, we prove that the rate loss incurred in the finite dimensional case can be upper-bounded by the space filling loss of the quantizer and, thus, is at most 0.254 bit/dimension.

研究の動機と目的

• エンド・トゥ・エンドの歪みが源信号と相関を持たない場合の根本的なレート・ディストーション限界を特定すること。
• 歪みが源信号と相関をもつことを仮定するシャノンの古典的レート・ディストーション理論におけるギャップを埋めること。
• ガウス源に対して、相関のない歪み制約下での新しい達成可能なレート・ディストーション関数 $ R^{\bot}(D) $ を確立すること。
• この新しい歪み制約が、フィードバック量子化とメモリレスなエントロピー符号化を用いて因果的に満たせることを示すこと。
• 理想の無限次元量子化器ではなく、有限次元のジタ付き格子量子化器を用いる際のレート損失を定量化すること。

提案手法

• 著者らは、パワー スペクトル密度（PSD）分解を用いて $ R^{\bot}(D) $ のパラメトリック表現を導出し、歪みのPSD $ S_Z(\omega) $ を制御するパrameter $ \alpha $ を導入している。
• 無限次元格子の漸近的極限において、形状付きジタ付き格子量子化を用いることで達成可能性を証明し、量子化ノイズがガウス i.i.d. シーケンスに近似されることを保証している。
• 再構成誤差が源信号と相関を持たないよう、因果的フィードバック量子化アーキテクチャを構築し、$ R^{\bot}(D) $ の制約を満たしている。
• フィードバック・ノイズ形状制御を用いて、歪みのPSDを所定の $ S_Z(\omega) $ に一致させ、$ R^{\bot}(D) $ の因果的実現を可能にしている。
• 量子化出力にメモリレスなエントロピー符号化を適用し、入力と出力間のスカラー相互情報量が $ R^{\bot}(D) $ に等しいことを示している。
• 格子の空間充填損失を用いて、有限次元量子化に起因するレート損失の上界を導出し、0.254 ビット/次元というタイトな上限が得られた。

実験結果

リサーチクエスチョン

• RQ1 歪みが源信号と相関を持たない場合に、2次ガウス型のレート・ディストーション関数が達成可能か？
• RQ2 シャノンの古典的RDFが非因果的であることを踏まえ、$ R^{\bot}(D) $ は因果的に達成可能か？
• RQ3 理想の無限次元量子化器ではなく、有限次元のジタ付き格子量子化器を用いる際のレート損失はどの程度か？
• RQ4 フィードバック量子化とメモリレスなエントロピー符号化を組み合わせることで、$ R^{\bot}(D) $ を有界なレート損失で達成可能か？
• RQ5 最適解において、歪みのPSD $ S_Z(\omega) $ は源のPSD $ S_X(\omega) $ とパrameter $ \alpha $ とどのように関係するか？

主な発見

• 相関のない歪みのレート・ディストーション関数 $ R^{\bot}(D) $ は、無限次元極限における形状付きジタ付き格子量子化を用いて達成可能である。
• 最適な歪みのPSDは $ S_Z(\omega) = \frac{1}{2} \left( \sqrt{S_X(\omega) + \alpha} - \sqrt{S_X(\omega)} \right) \sqrt{S_X(\omega)} $ で与えられ、これが歪みの非相関性を保証する。
• ノイズ形状制御を施した因果的フィードバック量子化は、シャノンの古典的RDFフレームワークでは実現不可能な $ R^{\bot}(D) $ を達成可能である。
• フィードバック量子化とジタリングと組み合わせたメモリレスなエントロピー符号化で十分であり、$ R^{\bot}(D) $ を達成可能である。
• 有限次元のジタ付き格子量子化に起因するレート損失は、0.254 ビット/次元に上界が抑えられ、これは格子量子化器の空間充填損失に相当する。
• 量子化器の入力と出力間のスカラー相互情報量は $ R^{\bot}(D) $ に等しく、与えられた制約下での達成可能性が確認された。