[논문 리뷰] Transform and Entropy Coding in AV2

Alican Nalci, Hilmi E. Egilmez외 22명|arXiv (Cornell University)|2026. 01. 06.

Video Coding and Compression Technologies인용 수 0

한 줄 요약

논문은 AV2의 변환 및 엔트로피 코딩 설계에 대해 다루며, 재설계된 커널, 데이터 기반 변환, 확장된 파티셔닝, 모드/계수 의존 시그널링, 그리고 압축 효율을 높이기 위한 IST, TCQ, ATC, PARA, FSC, CCTX, 및 PH와 같은 새로운 도구를 포함합니다.

ABSTRACT

AV2 is the successor to the AV1 video coding standard developed by the Alliance for Open Media (AOMedia). Its primary objective is to deliver substantial compression gains and subjective quality improvements while maintaining low-complexity encoder and decoder operations. This paper describes the transform, quantization and entropy coding design in AV2, including redesigned transform kernels and data-driven transforms, expanded transform partitioning, and a mode & coefficient dependent transform signaling. AV2 introduces several new coding tools including Intra/Inter Secondary Transforms (IST), Trellis Coded Quantization (TCQ), Adaptive Transform Coding (ATC), Probability Adaptation Rate Adjustment (PARA), Forward Skip Coding (FSC), Cross Chroma Component Transforms (CCTX), Parity Hiding (PH) tools and improved lossless coding. These advances enable AV2 to deliver the highest quality video experience for video applications at a significantly reduced bitrate.

연구 동기 및 목표

• AV2가 주요 변환과 시그널링을 재설계해 에너지 집적을 개선하고 사이드 정보를 줄이는 방법을 설명합니다.
• 확장된 변환 파티션 유형과 변환 및 계수 부호화 효율성을 높이는 새로운 도구들을 설명합니다.
• 비트레이트를 줄이고 처리량을 유지하는 엔트로피 코딩 개선과 새로운 시그널링 방식들을 제시합니다.
• 자연 콘텐츠와 화면 콘텐츠 전반에 걸쳐 데이터 기반 변환 및 2차 변환이 압축 이득에 어떻게 기여하는지 보여줍니다.

제안 방법

• DCT/DST/ADST 계열의 재설계된 변환 커널을 설명하고 데이터 기반 변환(DDTs)을 도입합니다.
• 내부 및 외부 블록에 대한 확장된 변환 파티션 유형과 통합 시그널링(MDTX, IST, CCTX)을 설명합니다.
• MS-AC 프레임워크 내에서 PARA, ATC, TCQ, FSC, PH를 포함한 엔트로피 코딩 개선을 자세히 설명합니다.
• 폐쇄형 지수식으로 q_index에서 QStep 양자화 매핑을 통합적으로 제시하고, DC의 delta q_index 오프셋을 설명합니다.
• 손실 없는 부호화와 고비트 깊이 고려사항 및 디코더/인코더 복잡도 영향에 대해 개괄합니다.

실험 결과

연구 질문

• RQ1 AV1에 비해 AV2가 도입하는 변환 및 엔트로피 코딩 변화는 압축 효율을 어떻게 향상시키나요?
• RQ2 새로운 도구들(IST, CCTX, MDTX, TCQ, PARA, ATC, FSC, PH)이 어떻게 서로 작용하여 처리량을 유지하면서 비트레이트를 줄이나요?
• RQ3 데이터 기반 변환과 대형 크로마 변환이 콘텐츠 유형 전반에 걸친 부호화 성능에 어떤 영향을 미치는지?

주요 결과

• AV2는 재설계된 커널, 데이터 기반 변환, 더 크거나 대체 형태의 변환 구성을 도입함으로써 압축 효율성을 개선합니다.
• 모드 및 블록 크기 의존 MDTX 및 DC 기반 시그널링을 통해 변환 시그널링이 더 간결해졌습니다.
• IST와 CCTX는 비분리적 변환 및 크로스-크로마 변환을 활용해 실용적 복잡도 범위에서 에너지 압축을 개선합니다.
• TCQ, PARA, ATC, FSC는 자연 콘텐츠와 화면 콘텐츠 모두에 대해 계수 부호화 효율과 비트레이트-왜곡 성능을 향상시킵니다.
• 양자화 모델은 지수적 q_index에서 QStep 매핑으로 통합되어 레이트 컨트롤을 단순화하고 고비트 깊이 기능을 확장합니다.