[論文レビュー] On the advantages of stochastic encoders

Lucas Theis, Eirikur Agustsson|arXiv (Cornell University)|Feb 18, 2021

Image and Signal Denoising Methods参考文献 7被引用数 11

ひとこと要約

この論文は、再構築が元のデータ分布と完全に一致する必要があるという完全な知覚的品質の条件下で、確率的符号化方式が決定的符号化方式を顕著に上回ることを示している。ユニバーサル量子化と共有された乱雑性を用いることで、提案された確率的符号化方式は、円形一様分布上での決定的1ビットベクトル量子化よりも期待歪みが38.9%低くなる。

ABSTRACT

Stochastic encoders have been used in rate-distortion theory and neural compression because they can be easier to handle. However, in performance comparisons with deterministic encoders they often do worse, suggesting that noise in the encoding process may generally be a bad idea. It is poorly understood if and when stochastic encoders do better than deterministic encoders. In this paper we provide one illustrative example which shows that stochastic encoders can significantly outperform the best deterministic encoders. Our toy example suggests that stochastic encoders may be particularly useful in the regime of "perfect perceptual quality".

研究の動機と目的

• 完全な知覚的品質の制約下で、確率的符号化方式が決定的符号化方式を上回れるかどうかを調査すること。
• 確率的符号化が決定的手法に比べて性能優位性を示す条件を探索すること。
• 共有された乱雑性が、確率的符号化方式による優れた再構築品質の実現に果たす役割を評価すること。
• 再構築が元のデータ分布に正確に従う必要がある状況において、確率的符号化方式が決定的符号化方式よりも低い歪みを達成できることを示すこと。
• 知覚的忠実度の制約下で、確率的符号化がレート-歪み性能に顕著な向上をもたらす理論的かつ具体的な例を提供すること。

提案手法

• 著者らは、入力データと共有された一様な乱雑変数を入力として受け取る関数として、確率的符号化方式と復元方式をモデル化している。これにより、符号化と復元プロセスが確率的に行われる。
• ユニバーサル量子化を用いた1ビットの確率的符号化方式を導入：符号化器は $ f(\boldsymbol{x}, u) = \big\rfloor \frac{\theta}{\pi} + u \big\lceil \mod 2 $ を計算する。ここで $ u $ は一様乱雑変数である。
• 復元器は同じ乱雑変数を用いて角度を $ \hat{\theta} = \pi(k - u) $ として再構築し、元のデータポイントの周囲に一様に分布する再構築結果を得る。
• この方法により、再構築が単位円上で元のデータと正確に同じ分布に従うことが保証され、完全な知覚的品質の制約を満たす。
• 期待歪みは $ \mathbb{E}[d(\theta, \hat{\Theta})] = 1 - \frac{2}{\pi} $ として解析的に導出され、決定的ベースラインと比較される。
• フレームワークは固定レート符号化を仮定し、再構築分布が入力分布と一致するという制約下で性能を評価する。

実験結果

リサーチクエスチョン

• RQ1 再構築が元のデータ分布と正確に一致する必要がある場合、確率的符号化方式が決定的符号化方式よりも低い歪みを達成できるか？
• RQ2 決定的符号化が通常のレート-歪み基準下で最適である場合でも、符号化の確率的性質が測定可能な利点をもたらす状況はあるか？
• RQ3 符号化器と復元器の間で共有された乱雑性が、独立した乱雑性や決定的手法では達成できない性能向上を可能にするか？
• RQ4 ユニバーサル量子化は、連続的かつ構造的で一様な円のような分布を有するデータの分布を、損失符号化において効果的に保持できるか？
• RQ5 完全な知覚的品質の制約下で、決定的ベクトル量子化と確率的ユニバーサル量子化の間の理論的および実用的性能差は何か？

主な発見

• ユニバーサル量子化を用いた確率的符号化方式は、期待歪み $ 1 - \frac{2}{\pi} \approx 0.363 $ を達成し、これは決定的1ビット符号化方式の歪み $ 1 - \frac{4}{\pi^2} \approx 0.573 $ よりも38.9%低い。
• 再構築分布は単位円上で正確に一様に分布しており、完全な知覚的品質の制約を満たしている。一方、決定的符号化方式の出力は離散的なコードブックの点に限定される。
• 性能向上の理由は、再構築が元のデータポイントの周囲に中心を置くのに対し、決定的ベクトル量子化は固定されたコードブックベクトルにマッピングするためである。
• 共有された乱雑性は不可欠である。本論文では、独立した乱雑性では同様の向上が得られないことが示されており、符号化器と復元器の同期が重要であることが示唆される。
• 歪みの低減は入力角度 $ \theta $ に依存せず、円上のすべてのデータポイントにわたり一貫した性能を示す。
• この結果は、知覚的忠実度が最小歪みそのものよりも優先される状況において、確率的符号化方式が決定的符号化方式を上回れることを示している。