[논문 리뷰] Polar Lattices for Lossy Compression

Линг Лиу, Jinwen Shi외 1명|arXiv (Cornell University)|2015. 01. 22.

Error Correcting Code Techniques참고 문헌 53인용 수 9

한 줄 요약

이 논문은 균형성 있는 가우시안 소스의 손실 압축을 위한 폴라 레이티스를 제안하며, 준선형 복잡도로 비율-왜곡 한계에 도달한다. 폴라 코드 구조와 이산 가우시안 분포를 활용함으로써, 엔트로피 코딩을 레이티스量子화기 내부에 통합하여 O(N log²N) 복잡도로 효율적인 인코딩/디코딩을 가능하게 하며, 네스팅을 통한 다중 단말기 코딩도 지원한다.

ABSTRACT

Polar lattices, which are constructed from polar codes, have recently been proved to be able to achieve the capacity of the additive white Gaussian noise (AWGN) channel. In this work, we propose a new construction of polar lattices to solve the dual problem, i.e., achieving the rate-distortion bound of a memoryless Gaussian source, which means that polar lattices can also be good for the lossy compression of continuous sources. The structure of the proposed polar lattices enables us to integrate the post-entropy coding process into the lattice quantizer, which simplifies the quantization process. The overall complexity of encoding and decoding complexity is $O(N \log^2 N)$ for a sub-exponentially decaying excess distortion. Moreover, the nesting structure of polar lattices further provides solutions for some multi-terminal coding problems. The Wyner-Ziv coding problem for a Gaussian source can be solved by an AWGN capacity-achieving polar lattice nested in a rate-distortion bound achieving one, and the Gelfand-Pinsker problem can be solved in a reversed manner.

연구 동기 및 목표

• 무-memory 가우시안 소스에 대해 이론적 비율-왜곡 한계에 도달하는 폴라 레이티스를 구축하기.
• 엔트로피 코딩을 레이티스 양자화기 내부에 직접 통합하여 압축 프로세스를 단순화하기.
• 임의의 목표 왜곡에 대해 O(N log²N) 복잡도로 저복잡도의 인코딩 및 디코딩을 가능하게 하기.
• 레이티스 네스팅을 통해 와이너-지브 및 젤판-핀스커 문제와 같은 다중 단말기 코딩 문제를 해결하기 위한 프레임워크로 확장하기.
• 와이너의 공통 정보 프레임워크를 기반으로 다수의 가우시안 소스로부터 공통 정보를 추출하기 위해 방법을 일반화하기.

제안 방법

• 폴라 코드에서 유도된 다단계 구조를 사용하여 폴라 레이티스를 구성하며, 구성 코드는 채널 코딩이 아닌 양자화를 위해 설계된다.
• 평탄한 요소가 무시할 만큼 작은 이산 가우시안 분포를 사용하여 연속적인 가우시안 재구성 알파벳을 근사한다.
• 소스 코딩과 채널 코딩 간의 이중성 원리를 활용: 양자화 문제는 노이즈 분산 Δ인 AWGN 채널에 대응하며, SNR = (σ²_s − Δ)/Δ이다.
• 레이티스 양자화기의 비율이 ½ log(σ²_s / Δ)에 수렴하도록 설계함으로써, 비율-왜곡 함수와 일치시킨다.
• 레이티스 네스팅을 구현: 채널에 대해 용량을 달성하는 폴라 레이티스를 비율-왜곡에 도달하는 레이티스와 네스팅하여 와이너-지브 코딩 문제를 해결한다.
• 다수의 가우시안 소스로부터 와이너의 공통 정보를 추출하기 위해, 폴라 레이티스 구조를 공통 정보 추출 문제에 적용하여 프레임워크를 확장한다.

실험 결과

연구 질문

• RQ1 저복잡도로 가우시안 소스에 대해 비율-왜곡 한계에 도달하는 폴라 레이티스를 구성할 수 있는가?
• RQ2 엔트로피 코딩을 레이티스 양자화 과정에 자연스럽게 통합하여 압축을 단순화할 수 있는가?
• RQ3 동일한 레이티스 구조로 와이너-지브 및 젤판-핀스커와 같은 다중 단말기 소스 코딩 문제를 해결할 수 있는가?
• RQ4 이산 가우시안 분포의 평탄한 요소가 양자화 성능과 비율 제어에 미치는 역할은 무엇인가?
• RQ5 폴라 레이티스를 사용하여 와이너의 정의에 따라 다수의 가우시안 소스로부터 공통 정보를 추출할 수 있는가?

주요 결과

• 제안된 폴라 레이티스 양자화기는 가우시안 소스의 비율-왜곡 한계에 도달하며, 임의의 왜곡 Δ에 대해 비율 R(Δ) = ½ log(σ²_s / Δ)를 갖는다.
• 인코딩 및 디코딩 복잡도는 O(N log²N)이며, 준선형 복잡도로 실용적 구현에 적합하다.
• 레이티스 양자화기 내부에 엔트로피 코딩을 통합함으로써 별도의 엔트로피 코딩 단계를 제거하여 압축 파이프라인을 단순화한다.
• 레이티스 네스팅을 통해 와이너-지브 문제를 해결할 수 있다: 용량을 달성하는 폴라 레이티스가 비율-왜곡에 도달하는 레이티스와 네스팅된다.
• 젤판-핀스커 문제는 반대로 해결된다: 양자화기는 상태 정보를 갖는 채널 코드로 사용되며, 동일한 레이티스 구조를 활용한다.
• 프레임워크는 다수의 가우시안 소스로부터 와이너의 공통 정보를 성공적으로 추출하며, 공통 정보 추출 문제에 폴라 레이티스 구조를 적용함으로써 이를 달성한다.