[논문 리뷰] Variable-Bitrate Neural Compression via Bayesian Arithmetic Coding

Yibo Yang, Robert Bamler외 1명|arXiv (Cornell University)|2020. 02. 18.

Generative Adversarial Networks and Image Synthesis인용 수 5

한 줄 요약

이 논문은 사후 불확실성 추정치를 기반으로 양자화 정밀도를 적응적으로 조정하는 베이지안 산술부호화를 사용한 가변비트레이트 신경 압축 방법을 제안한다. 이로 인해 단일 훈련 모델을 통해 다양한 비트레이트-왜곡 트레이드오프를 달성할 수 있다. 이 방법은 재훈련 없이도 광범위한 비트레이트 범위에서 JPEG를 능가한다.

ABSTRACT

Deep Bayesian latent variable models have enabled new approaches to both model and data compression. Here, we propose a new algorithm for compressing latent representations in deep probabilistic models, such as variational autoencoders, in post-processing. The approach thus separates model design and training from the compression task. Our algorithm generalizes arithmetic coding to the continuous domain, using adaptive discretization accuracy that exploits estimates of posterior uncertainty. A consequence of the plug and play nature of our approach is that various rate-distortion trade-offs can be achieved with a single trained model, eliminating the need to train multiple models for different bit rates. Our experimental results demonstrate the importance of taking into account posterior uncertainties, and show that image compression with the proposed algorithm outperforms JPEG over a wide range of bit rates using only a single machine learning model. Further experiments on Bayesian neural word embeddings demonstrate the versatility of the proposed method.

연구 동기 및 목표

• 심층 베이지안 확률 모델(예: 변분 오토인코더 등)의 잠재 표현에 대한 후처리 압축 방법을 개발하기 위해.
• 다양한 비트레이트마다 별도의 모델을 훈련할 필요 없이 단일 훈련 모델로 가변비트레이트 압축을 가능하게 하기 위해.
• 불확실성 기반으로 이산화 정밀도를 조정함으로써 연속 영역으로 산술부호화를 일반화하기 위해.
• 잠재 공간 내 사후 불확실성 추정치를 활용하여 압축 성능을 향상시키기 위해.
• 이미지 및 워드 임베딩을 포함한 다양한 데이터 유형에 대해 방법의 유연성을 입증하기 위해.

제안 방법

• 사후 불확실성 추정치에 따라 변동하는 적응형 이산화를 사용하여 산술부호화를 연속 잠재 변수로 일반화한다.
• 사후 분포의 분산에 따라 양자화 해상도를 동적으로 조정하여 불확실성이 높은 영역에 더 많은 비트를 할당한다.
• 압축을 후처리 단계로 간주하여 모델 훈련과 비트레이트 제어를 분리한다.
• 잠재 변수에 대한 사후 분포를 추정하기 위해 베이지안 추론을 사용하며, 이를 부호화 전략에 반영한다.
• 심층 잠재변수 모델(예: 변분 오토인코더 등)과 어떤 아키텍처 변경 없이도 통합 가능하다.
• 불확실성 인식 부호화 과정을 통해 비트레이트와 재구성 품질 간의 트레이드오프를 조정함으로써 비트레이트-왜곡 최적화를 달성한다.

실험 결과

연구 질문

• RQ1 일반화된 산술부호화 형태를 사용해 연속 잠재 표현을 효율적으로 압축할 수 있는가?
• RQ2 사후 불확실성을 통합함으로써 다양한 비트레이트에서 압축 성능이 어떻게 향상되는가?
• RQ3 재훈련 없이도 단일 훈련 모델이 여러 비트레이트-왜곡 트레이드오프를 달성할 수 있는가?
• RQ4 다양한 비트레이트에서 전통적 코덱(예: JPEG)과 비교해 이 방법은 어떻게 성능을 내는가?
• RQ5 이 방법은 이미지 데이터 외의 비이미지 데이터(예: 워드 임베딩)로까지 어떻게 일반화 가능한가?

주요 결과

• 제안된 방법은 다양한 비트레이트 범위에서 JPEG에 비해 우수한 영상 압축 성능을 달성하며, 비트레이트와 왜곡 모두에서 일관된 향상을 보였다.
• 사후 불확실성을 활용함으로써 모델 복잡도 증가 없이도 적응형 비트 할당이 가능해져 부호화 효율성이 향상된다.
• 단일 모델만으로도 가변비트레이트 압축을 지원하여, 다양한 비트레이트마다 별도의 모델을 훈련할 필요가 없어졌다.
• 베이지안 신경망 워드 임베딩에 대한 실험을 통해 이 방법이 이미지 데이터를 초월한 유연성을 입증했다.
• 결과적으로 불확실성 인식 부호화가 특히 저비트레이트에서 압축 성능을 크게 향상시킨다는 것이 입증되었다.
• 경쟁적인 비트레이트를 달성하면서도 높은 재구성 품질을 유지함으로써, 실용적 압축 시나리오에서의 효과성을 입증했다.