[論文レビュー] Post-Training Quantization for Cross-Platform Learned Image Compression

Dailan He, Ziming Yang+4 more|arXiv (Cornell University)|Feb 15, 2022

Advanced Data Compression Techniques被引用数 9

ひとこと要約

本論文は、整数演算のみと決定的熵パラメータの離散化を強制することで、学習済み画像圧縮モデルにおけるクロスプラットフォーム一貫性のある推論を可能にする、トレーニング後量子化（PTQ）フレームワークを提案する。この手法は、浮動小数点の不一致を排除しながら、最先端のレート・ディストーション性能を達成し、再トレーニングやハードウェア固有のチューニングなしでSOTAの学習済み圧縮モデルの実用的導入を可能にする。

ABSTRACT

It has been witnessed that learned image compression has outperformed conventional image coding techniques and tends to be practical in industrial applications. One of the most critical issues that need to be considered is the non-deterministic calculation, which makes the probability prediction cross-platform inconsistent and frustrates successful decoding. We propose to solve this problem by introducing well-developed post-training quantization and making the model inference integer-arithmetic-only, which is much simpler than presently existing training and fine-tuning based approaches yet still keeps the superior rate-distortion performance of learned image compression. Based on that, we further improve the discretization of the entropy parameters and extend the deterministic inference to fit Gaussian mixture models. With our proposed methods, the current state-of-the-art image compression models can infer in a cross-platform consistent manner, which makes the further development and practice of learned image compression more promising.

研究の動機と目的

• 非決定的浮動小数点推論に起因する学習済み画像圧縮におけるクロスプラットフォーム不一致という重要な問題に対処すること。
• 幅広いプラットフォームにわたる、決定的でハードウェアフレンドリーかつ汎用的な、最先端の学習済み圧縮モデルのデプロイメントを可能にすること。
• 浮動小数点演算やモデル固有の微調整に依存しないまま、SOTAモデルの高いレート・ディストーション性能を維持すること。
• ガウス・ミックスチャネル（GMM）を用いたエントロピー・パラメータモデリングに、決定的推論を拡張すること。

提案手法

• 浮動小数点モデルを整数演算のみの推論ネットワークに変換する、広く知られたトレーニング後量子化（PTQ）を適用し、プラットフォーム間での決定的動作を保証する。
• エントロピー・パラメータの量子化安定化とPTQ中の性能劣化低減を目的に、オフライン制約付き再量子化を導入する。
• エントロピー・パラメータの65段階離散化スキームを提案し、浮動小数点演算を一切使用しない整数演算による決定的ルックアップを可能にする。
• 床丸め平均と量子化された重みを用いた決定的CDFインデックス化メカニズムを設計し、GMMベースのエントロピー・モデルにおける一貫性のある確率推定を実現する。
• 極端な値の処理のためのフォールバックとしてゴロム符号化を統合し、数値的安定性と決定的デコードを維持する。
• 最小限のデータを用いた標準的なPTQキャリブレーションにより、重みと活性化を量子化し、量子化に伴うトレーニング（QAT）の必要性を回避する。

実験結果

リサーチクエスチョン

• RQ1 トレーニング後量子化が、再トレーニングや性能損失なしに、学習済み画像圧縮におけるクロスプラットフォーム不一致を解消できるか？
• RQ2 GMMベースのコンテキストモデリングを用いた複雑なモデルにおいて、どのように決定的エントロピー・パラメータの量子化を達成できるか？
• RQ3 提案手法が、多様なプラットフォームにおける整数演算のみの推論を保証しながら、最先端のレート・ディストーション性能を維持できるか？
• RQ4 エントロピー・パラメータの離散化が、圧縮効率およびデコードの一貫性に与える影響は何か？

主な発見

• 提案されたPTQベースの手法により、共同自己回帰的およびハイパープライオリティモデリングを備えた最先端の学習済み画像圧縮モデルに対しても、クロスプラットフォーム一貫性のある推論が達成された。
• 元の浮動小数点モデルとほぼ同一のレート・ディストーション性能を維持しており、性能劣化は無視できるほど小さい。
• 65段階のエントロピー・パラメータの離散化により、浮動小数点の不一致を排除する整数演算のみの決定的CDFインデックス化が可能になった。
• 床丸め平均と量子化された重みを用いた決定的CDFインデックス化メカニズムにより、GMMベースのエントロピー・モデルへの対応が可能になった。
• 本手法はハードウェアフレンドリーかつ汎用的であり、標準的な推論エンジンおよび広く導入されたハードウェアと互換性がある。