[論文レビュー] Neural Distributed Source Coding

Jay Whang, Nagle, Alliot+3 more|arXiv (Cornell University)|Jun 5, 2021

Domain Adaptation and Few-Shot Learning被引用数 10

ひとこと要約

本論文では、手作業で設計された相関モデルに依存せずに、高次元かつ任意の相関を持つソースに対して実用的で高効率な分散型ソース符号化を実現するため、条件付きベクタ量子化変分オートエンコーダー（VQ-VAE）を用いた深層学習フレームワーク、Neural DSC を提案する。本手法はステレオ画像符号化において最先端のPSNRを達成し、複雑な相関を学習することで共同符号化レートに近づく。これは、データ駆動型手法が実際のSlepian-Wolf型理論的利得を実現できることを示している。

ABSTRACT

Distributed source coding (DSC) is the task of encoding an input in the absence of correlated side information that is only available to the decoder. Remarkably, Slepian and Wolf showed in 1973 that an encoder without access to the side information can asymptotically achieve the same compression rate as when the side information is available to it. While there is vast prior work on this topic, practical DSC has been limited to synthetic datasets and specific correlation structures. Here we present a framework for lossy DSC that is agnostic to the correlation structure and can scale to high dimensions. Rather than relying on hand-crafted source modeling, our method utilizes a conditional Vector-Quantized Variational Autoencoder (VQ-VAE) to learn the distributed encoder and decoder. We evaluate our method on multiple datasets and show that our method can handle complex correlations and achieves state-of-the-art PSNR. Our code is made available at https://github.com/acnagle/neural-dsc.

研究の動機と目的

• 高次元かつ任意の相関を持つソースに対する理論的分散型ソース符号化（DSC）と実装のギャップを埋めること。
• 手作業で設計された相関モデルに依存しないスケーラブルでデータ駆動型のDSCフレームワークを開発すること。
• 深層生成モデルが、側情報が符号化器にのみ存在する状況でも、近似的に最適な符号化レートを達成できることを示すこと。
• 画像やモデル勾配を含む多様なデータタイプに対して評価することで、合成的または構造的な相関にとどまらない一般化能力を示すこと。

提案手法

• フレームワークは、ソースと側情報の同時分布をモデル化するための条件付きVQ-VAEを用い、分散型符号化器と復号器のエンドツーエンド学習を可能にする。
• 符号化器は自らのデータのみを用いてソースを圧縮するが、復号器は圧縮信号と側情報を併用してソースを再構築する。
• DSCの非対称性（側情報が復号器でのみ利用可能）を反映した修正された下界確率（ELBO）目的関数を用いて学習を行う。
• ベクタ量子化された潜在空間により、離散的で学習可能な表現が可能となり、効率的な符号化と再構築が可能になる。
• 明示的なコードブック設計やシンディームベースの符号化を必要とせず、確率的勾配降下法を用いてエンドツーエンドで学習される。
• 本アーキテクチャは画像やディープラーニングモデルの勾配など、多様なデータタイプに一般化可能であり、広範な適用性を示している。

実験結果

リサーチクエスチョン

• RQ1 VQ-VAEのような深層生成モデルは、相関構造に関する事前仮定なしに、分散型ソース符号化に効果的に適応可能か？
• RQ2 学習ベースのデータ駆動型DSCシステムは、実際のSlepian-Wolf符号化の理論的限界にどの程度近づけるか？
• RQ3 符号化器と復号器がエンドツーエンドで微分可能であるにもかかわらず、構造的かつi.i.d.なベルヌーイ源に対して、非学習ベースライン（例：DISCUS）を上回る性能を示せるか？
• RQ4 本手法は、ステレオ画像やディープニューラルネットワークの勾配のように、単純な空間的または統計的モデルを超えた高次元で複雑な相関に対しても対応可能か？

主な発見

• Neural DSCは、ステレオ画像符号化において最先端のPSNRを達成し、同様の設定下で先行手法を上回った。
• 合成的で相関のあるガウス源では、低レート領域において理論的最適DSC限界に非常に近いレート・歪み性能を示した。
• i.i.d.ベルヌーイ源においても、DISCUSが近似的に最適であるにもかかわらず、Neural DSCは共同符号化に匹敵する性能を達成し、非自明な符号化アルゴリズムを学習していることが示された。
• 側情報を有する符号化器と比較して顕著な性能向上が得られたことから、本手法は真の分散型符号化を実現しており、単なる高レート符号化ではないことが確認された。
• 本フレームワークは画像以外のデータに対しても一般化可能であり、分散学習におけるモデル勾配の圧縮においても有望な結果を示し、より広範な応用可能性を示した。
• 高レート領域では、期待通りに側情報の利点が薄れる。これは理論的限界が漸近的であり、モデルが1シンボルずつ符号化しているためである。