[논문 리뷰] Lattices for Distributed Source Coding: Jointly Gaussian Sources and Reconstruction of a Linear Function

Dinesh Krithivasan, S. Sandeep Pradhan|ArXiv.org|2007. 07. 23.

Wireless Communication Security Techniques참고 문헌 48인용 수 9

한 줄 요약

이 논문은 공동 가우시안 소스의 분산 소스 코딩을 위한 격자 기반 코딩 체계를 제안하며, 디코더는 소스들의 선형 조합을 최소 평균 제곱 오차로 재구성한다. 개별 소스가 아닌 선형 함수를 직접 양자화함으로써, 특정 매개변수 영역에서 기존의 비율-왜곡 균형을 향상시키며, 격자 벡터 양자화와 상관관계가 있는 격자 기반 빈배분을 사용하여 최적의 비율 영역에 대한 내부 경계를 유도한다.

ABSTRACT

Consider a pair of correlated Gaussian sources (X1,X2). Two separate encoders observe the two components and communicate compressed versions of their observations to a common decoder. The decoder is interested in reconstructing a linear combination of X1 and X2 to within a mean-square distortion of D. We obtain an inner bound to the optimal rate-distortion region for this problem. A portion of this inner bound is achieved by a scheme that reconstructs the linear function directly rather than reconstructing the individual components X1 and X2 first. This results in a better rate region for certain parameter values. Our coding scheme relies on lattice coding techniques in contrast to more prevalent random coding arguments used to demonstrate achievable rate regions in information theory. We then consider the case of linear reconstruction of K sources and provide an inner bound to the optimal rate-distortion region. Some parts of the inner bound are achieved using the following coding structure: lattice vector quantization followed by "correlated" lattice-structured binning.

연구 동기 및 목표

• 공동 가우시안 소스 두 개 이상에 대한 분산 소스 코딩 문제를 다루며, 디코더가 소스들의 선형 조합을 평균 제곱 오차로 재구성한다.
• 기존의 비율-왜곡 한계를 향상시키기 위해 개별 소스가 아닌 선형 함수를 직접 재구성함으로써 격자 코딩 기법을 활용한다.
• 이 문제에 대해 격자를 활용한 구조적 코딩을 사용하여 최적의 비율-왜곡 영역에 대한 내부 경계를 유도한다.
• 이 체계를 K개의 소스로 확장하고 격자 벡터 양자화 및 상관관계가 있는 격자 기반 빈배분을 사용하여 성능을 분석한다.
• 특정 매개변수 값에서 제안된 격자 기반 체계가 기존의 접근 방식보다 더 우수한 성능을 보임을 보여주며, 특히 고 SNR 또는 비대칭 상관관계 영역에서 유리하다.

제안 방법

• 각 인코더에서 관측된 소스의 스케일된 버전을 격자 벡터 양자화를 사용하여 양자화한다.
• 각 인코더는 양자화된 출력에 대해 소스 간 상관관계를 활용한 격자 기반 빈배분을 수행한다.
• 디코더는 선형 조합 $ Z = oldsymbol{c}^T oldsymbol{X} $ 를 최소 평균 제곱 오차로 재구성하기 위해 격자 기반 추정 규칙을 사용한다.
• 해석 함수는 $ oldsymbol{ ilde{Z}} = rac{oldsymbol{c}^T oldsymbol{ar{ heta}}}{oldsymbol{ar{ heta}}^T oldsymbol{ar{ heta}} + q} (oldsymbol{ heta} + oldsymbol{Q}) $ 로 유도되며, $ oldsymbol{ heta} $ 는 스케일된 소스 벡터이고 $ oldsymbol{Q} $ 는 딜레이어이다.
• 왜곡은 해석적으로 $ D = ext{Var}(Z) - rac{(oldsymbol{c}^T oldsymbol{ar{ heta}})^2}{oldsymbol{ar{ heta}}^T oldsymbol{ar{ heta}} + q} $ 로 표현되며, $ q $ 는 왜곡을 최소화하도록 선택된다.
• 비율 영역은 $ extstyleigcup_{oldsymbol{ heta}} igcap_{i=1}^K igackslash R_i ext{ such that } extstyle extstyleigsum_{i=1}^K 2^{-2R_i} ext{ is bounded by a function of distortion and source correlation.} $ 로 유도된다.

실험 결과

연구 질문

• RQ1 공동 가우시안 소스의 선형 조합을 재구성할 때, 기존의 체계보다 격자 기반 코딩이 더 나은 비율-왜곡 균형을 달성할 수 있는가?
• RQ2 개별 소스가 아닌 선형 함수를 직접 재구성함으로써 분산 소스 코딩에서 더 넓은 구현 가능한 비율 영역을 얻을 수 있는가?
• RQ3 주어진 왜곡 제약 조건 하에서 비율 영역을 최대화하기 위해 최적의 스케일링 인자 $ oldsymbol{ heta} $ 와 빈배분 매개변수 $ q_i $ 는 무엇인가?
• RQ4 선형 재구성에서 격자 기반 체계의 성능이 공동 가우시안 케이스에서 베르거-퉁 내부 경계와 비교해 어떻게 되는가?
• RQ5 고차원에서 최적의 격자 양자화기를 사용할 경우 재구성 오차와 양자화 노이즈의 점근적 행동은 어떠한가?

주요 결과

• 제안된 격자 기반 체계는 선형 재구성과 함께 공동 가우시안 소스의 분산 소스 코딩에 대해 최적의 비율-왜곡 영역에 대한 내부 경계를 달성한다.
• 특정 매개변수 값에서, 특히 소스들이 높은 상관관계를 가지거나 선형 함수가 소스 상관관계 구조와 잘 일치할 경우, 개별 소스를 먼저 재구성하는 기존 접근 방식보다 성능이 뛰어나다.
• 왜곡이 최소가 되는 조건은 스케일링 벡터 $ oldsymbol{ heta} $ 가 계수 벡터 $ oldsymbol{c} $ 와 일치할 때이며, 즉 $ oldsymbol{ heta} = ho oldsymbol{c} $ 일 때이며, 이 경우 비율 영역이 최대가 된다.
• 블록 길이 $ n o ty $ 일 때, 효과적 양자화 노이즈 $ e_q $ 는 Kullback-Leibler 발산에서 평균 제곱 오차가 $ ( heta^T oldsymbol{ar{ heta}} + q) oldsymbol{I} $ 인 백색 가우시안 벡터로 수렴하며, 이는 점근적 최적성을 보장한다.
• 비율 영역은 $ extstyleigsum_{i=1}^K 2^{-2R_i} ext{ is bounded by } 1 - ( ext{Var}(Z) - D) rac{oldsymbol{ heta}^T oldsymbol{ar{ heta}}}{(oldsymbol{c}^T oldsymbol{ar{ heta}})^2} $ 로 주어지며, 이는 $ oldsymbol{ heta} ext{ is parallel to } oldsymbol{c} $ 일 때 최대가 된다.
• 격자 코딩의 사용은 랜덤 코딩 추론이 필요 없는 구조적이고 결정적인 접근 방식을 가능하게 하여, 분산 기능 재구성에 더 실용적이고 분석 가능한 프레임워크를 제공한다.