[论文解读] Transform and Entropy Coding in AV2

Alican Nalci, Hilmi E. Egilmez+22 more|arXiv (Cornell University)|Jan 6, 2026

Video Coding and Compression Technologies被引用 0

一句话总结

该论文详述 AV2 的变换与熵编码设计，包括重新设计的内核、数据驱动变换、扩展的分区，以及基于模式/系数的信令，以及 IST、TCQ、ATC、PARA、FSC、CCTX、PH 等新工具，以提升压缩效率。

ABSTRACT

AV2 is the successor to the AV1 video coding standard developed by the Alliance for Open Media (AOMedia). Its primary objective is to deliver substantial compression gains and subjective quality improvements while maintaining low-complexity encoder and decoder operations. This paper describes the transform, quantization and entropy coding design in AV2, including redesigned transform kernels and data-driven transforms, expanded transform partitioning, and a mode & coefficient dependent transform signaling. AV2 introduces several new coding tools including Intra/Inter Secondary Transforms (IST), Trellis Coded Quantization (TCQ), Adaptive Transform Coding (ATC), Probability Adaptation Rate Adjustment (PARA), Forward Skip Coding (FSC), Cross Chroma Component Transforms (CCTX), Parity Hiding (PH) tools and improved lossless coding. These advances enable AV2 to deliver the highest quality video experience for video applications at a significantly reduced bitrate.

研究动机与目标

• 解释 AV2 如何重新设计主变换与信令以改善能量压缩和降低副信息。
• 描述扩展的变换分区与新工具如何提升变换与系数编码效率。
• 呈现熵编码的改进与新的信令方案，降低比特率并维持吞吐量。
• 展示数据驱动及二次变换在自然场景与屏幕内容的压缩增益。

提出的方法

• 描述为 DCT/DST/ADST 家族重新设计的变换内核并引入数据驱动变换（DDTs）。
• 解释扩展的变换分区类型与 intra/inter 块的统一信令（MDTX、IST、CCTX）。
• 在 MS-AC 框架内详细说明包括 PARA、ATC、TCQ、FSC 与 PH 的熵编码改进。
• 通过封闭形式的指数公式将统一的 q_index 映射到 QStep 量化，并给出 DC 的 delta q_index 偏移。
• 概述无损和高比特深度的考虑，以及解码器/编码器复杂度的影响。

实验结果

研究问题

• RQ1 AV2 相较于 AV1 在哪些变换与熵编码方面进行了改动以提升压缩效率？
• RQ2 新工具（IST、CCTX、MDTX、TCQ、PARA、ATC、FSC、PH）如何协同工作以在保持吞吐量的同时降低比特率？
• RQ3 数据驱动变换与大色度变换对不同内容类型的编码性能有何影响？

主要发现

• AV2 通过引入重新设计的内核、数据驱动变换以及更大/替代的变换配置实现了压缩效率的提升。
• 通过基于模式和块大小的 MDTX 与基于 DC 的信令，使变换信令更紧凑。
• IST 和 CCTX 通过在实际复杂度范围内利用非分离性和跨色度变换来改进能量压缩。
• TCQ、PARA、ATC 与 FSC 提升了系数编码效率与自然内容及屏幕内容的速率失真性能。
• 量化模型通过指数 q_index 到 QStep 的统一映射简化了速率控制并扩展了高比特深度能力。