[논문 리뷰] Universally Quantized Neural Compression

Eirikur Agustsson, Lucas Theis|arXiv (Cornell University)|2020. 06. 17.

Neural Networks and Applications참고 문헌 32인용 수 45

한 줄 요약

저자는 universal quantization을 사용하여 신경 이미지 압축을 위한 differentiable, train-test 매칭 통신 채널을 구현하고, 균일 노이즈와 하드 양자화 사이를 보간하기 위한 소프트 라운딩(soft-rounding) 접근법을 포함시킵니다. 선형 및 hyperprior 모델에서 실험적 이득을 입증합니다.

ABSTRACT

A popular approach to learning encoders for lossy compression is to use additive uniform noise during training as a differentiable approximation to test-time quantization. We demonstrate that a uniform noise channel can also be implemented at test time using universal quantization (Ziv, 1985). This allows us to eliminate the mismatch between training and test phases while maintaining a completely differentiable loss function. Implementing the uniform noise channel is a special case of the more general problem of communicating a sample, which we prove is computationally hard if we do not make assumptions about its distribution. However, the uniform special case is efficient as well as easy to implement and thus of great interest from a practical point of view. Finally, we show that quantization can be obtained as a limiting case of a soft quantizer applied to the uniform noise channel, bridging compression with and without quantization.

연구 동기 및 목표

• 엔드-투-엔드 신경 압축에서 비미분적 양자화를 제거하여 학습-테스트 불일치를 줄이는 것을 목표로 한다.
• 효율적이고 미분 가능한 테스트 시 채널로서 universal quantization을 도입한다.
• 양자화와 소프트 양자화를 연결하여 hard quantization으로 완화될 때의 느린 전이가 가능하도록 매끄러운 전이를 허용한다.
• uniform noise와 양자화를 다루는 학습 안정화를 위한 그래디언트 추정 기법을 조사한다.
• 이 접근법이 간단한 선형 모델과 하이프리어 모델에 미치는 영향을 평가한다.

제안 방법

• 학습 중에 차별화 가능한 근사로 additive uniform noise를 사용한다.
• 테스트 시 양자화를 universal quantization으로 대체하여 미분 가능성과 학습/테스트 단계의 일치를 유지한다.
• discrete index K가 U에 conditioning될 때, Y+U의 비트 비용을 h[Y+U]로 도출한다.
• 결정적으로 반보간 없이 보간하는 소프트 라운딩 함수 s_alpha를 도입한다.
• U에 대한 기대값을 계산할 때 그래디언트 분산을 줄이기 위한 분석적 그래디언트 적분 기법을 제안한다.
• Kodak 데이터에 대해 RD 곡선을 사용하여 하이프리어 모델과 선형 모델로 접근법을 평가한다.

실험 결과

연구 질문

• RQ1 universal quantization이 신경 압축을 위한 효율적이고 미분 가능한 테스트 시 채널 역할을 할 수 있는가?
• RQ2 universal quantization을 사용하여 학습과 테스트를 정렬하는 것이 기존의 학습 시 노이즈 근사에 비해 rate-distortion 성능을 향상시키는가?
• RQ3 soft-rounding이 균일 노이즈와 하드 양자화 사이를 보간하면서 미분 가능성을 유지하고 이점이 있는가?
• RQ4 기대 그래디언트 등 그래디언트 추정 기법이 학습을 안정시키고 소프트 라운딩의 수렴을 개선하는가?
• RQ5 이 접근법이 간단한 선형 모델과 더 복잡한 하이프리어 모델에 미치는 영향은 무엇인가?

주요 결과

• Universal quantization은 학습-테스트 불일치를 제거하면서도 효율성을 해치지 않는 미분 가능한 채널을 제공합니다.
• 양자화는 소프트 라운딩과 어닐링을 통한 유니버설 양자화의 극한 사례로 볼 수 있습니다.
• 소프트 라운딩과 기대 그래디언트는 특히 낮은 비트레이트와 하이프리어 모델에서 RD 성능을 향상시킵니다.
• 더 큰 소프트-라운딩 매개변수에 대해 기대 그래디언트가 학습을 안정시키고 수렴 속도를 높입니다.
• 모델 전반에 걸쳐 UN + UQ가 종종 UN + Q 베이스라인보다 개선되며, 특정 속도에서 SR를 추가하면 테스트 시 양자화 성능을 초과할 수 있습니다.