[논문 리뷰] Distributed Source Coding of Correlated Gaussian Sources

Yasutada Oohama|arXiv (Cornell University)|2010. 07. 26.

Wireless Communication Security Techniques참고 문헌 21인용 수 11

한 줄 요약

이 논문은 L개의 상관된 가우시안 소스에 대해 분산 소스 코딩을 연구하며, 이는 K개의 원격 가우시안 소스의 노이즈 있는 관측치로 모델링되며, Y^L = A X^K + N^L로 기술된다. 세 가지 왜곡 기준—왜곡 행렬, 벡터 왜곡, 합 왜곡—하에 정규화된 영역에 대해 명시적인 내부 및 외부 경계를 도출하며, 양의 준정부정행렬 프로그래밍과 워터필링 해법을 사용한다. 주요 기여는 특정 조건 하에서 정확히 일치하는 날것의 경계를 제공함으로써 이전의 CEO 문제 및 다중단계 소스 코딩 결과를 향상시키는 것이다.

ABSTRACT

We consider the distributed source coding system of $L$ correlated Gaussian sources $Y_i,i=1,2,...,L$ which are noisy observations of correlated Gaussian remote sources $X_k, k=1,2,...,K$. We assume that $Y^{L}={}^{ m t}(Y_1,Y_2,$ $..., Y_L)$ is an observation of the source vector $X^K={}^{ m t}(X_1,X_2,..., X_K)$, having the form $Y^L=AX^K+N^L$, where $A$ is a $L imes K$ matrix and $N^L={}^{ m t}(N_1,N_2,...,N_L)$ is a vector of $L$ independent Gaussian random variables also independent of $X^K$. In this system $L$ correlated Gaussian observations are separately compressed by $L$ encoders and sent to the information processing center. We study the remote source coding problem where the decoder at the center attempts to reconstruct the remote source $X^K$. We consider three distortion criteria based on the covariance matrix of the estimation error on $X^K$. For each of those three criteria we derive explicit inner and outer bounds of the rate distortion region. Next, in the case of $K=L$ and $A=I_L$, we study the multiterminal source coding problem where the decoder wishes to reconstruct the observation $Y^L=X^L+N^L$. To investigate this problem we shall establish a result which provides a strong connection between the remote source coding problem and the multiterminal source coding problem. Using this result, we drive several new partial solutions to the multiterminal source coding problem.

연구 동기 및 목표

• L개의 상관된 가우시안 관측치가 별도로 압축되어 기저가 되는 K개의 원격 가우시안 소스를 재구성하는 원격 소스 코딩 문제를 분석한다.
• 추정 오차 공분산 행렬 기반의 세 가지 서로 다른 왜곡 기준 하에 비용-손실 영역에 대한 명시적인 내부 및 외부 경계를 수립한다.
• 이론적 다리 역할을 통해 원격 소스 코딩 문제를 다중단계 소스 코딩 문제와 연결함으로써 새로운 부분적 해법을 가능하게 한다.
• 특히 정사각형 가우시안 CEO 문제와 합 왜곡 기준에 대해 기존 문헌의 경계를 향상시키기 위해 더 날것의 임계값을 도출한다.

제안 방법

• 시스템을 Y^L = A X^K + N^L로 모델링하며, X^K는 원격 소스, Y^L는 노이즈 있는 관측치, N^L은 상호독립적인 가우시안 노이즈이다.
• 왜곡 행렬 기준 하에 비용-손실 영역에 대한 명시적인 내부 및 외부 경계를 도출하기 위해 양의 준정부정행렬 프로그래밍(SDP)을 적용한다.
• 원격 소스 코딩과 다중단계 소스 코딩을 연결하는 핵심 이론적 결과를 활용하여, K = L 및 A = I_L일 때 경계를 다중단계 경우로 확장한다.
• 합 왜곡 기준에 대해 워터필링 유형의 외부 경계를 유도함으로써 특정 조건 하에 명시적 특성화를 가능하게 한다.
• 엔트로피 영역 불등식과 마코프 체인 논증을 사용하여 유도 과정에서 조건부 엔트로피 항을 경계한다.
• 엔트로피 불등식의 반복적 적용을 통해 보조 랜덤 변수의 조건부 엔트로피를 하한으로 제시하며, 날것의 경계 유도에 핵심적이다.

실험 결과

연구 질문

• RQ1 노이즈 있는 관측치를 갖는 상관된 가우시안 소스의 분산 소스 코딩에서 비용-손실 영역에 대해 가능한 한 날것의 내부 및 외부 경계는 무엇인가?
• RQ2 유도된 경계는 특히 정사각형 가우시안 CEO 문제의 특수한 경우에서 기존 결과와 어떻게 비교되는가?
• RQ3 합 왜곡 기준에 대해 내부 및 외부 경계가 정확히 일치하는 조건은 무엇이며, 이는 최적의 합 비용률에 어떤 의미를 갖는가?
• RQ4 원격 소스 코딩 문제와 다중단계 소스 코딩 문제 사이에 이론적 연결 고리를 설정할 수 있는가? 이를 통해 새로운 해법이 가능해지는가?
• RQ5 최적성에 대한 새로운 임계값은 기존 문헌의 결과에 비해 어떤 개선을 제공하는가?

주요 결과

• 왜곡 행렬 기준에 대해, 논문은 공분산 행렬에 대한 양의 준정부정행렬 프로그래밍 기반의 명시적인 내부 및 외부 경계를 도출한다.
• 벡터 왜곡 기준에 대해, K = L 및 A = I_L일 때 Oohama의 이전 결과보다 일반화되고 향상된 외부 경계를 도출한다.
• 합 왜곡 기준에 대해 워터필링 유형의 외부 경계를 도출하였으며, 이는 이전 접근보다 더 날것이다.
• 지정된 왜곡 수준 D가 특정 임계값 이하일 경우, 합 왜곡 기준에 대한 내부 및 외부 경계가 정확히 일치하며, 이는 코딩 방식의 최적성을 시사한다.
• 최적성에 대해 두 가지 서로 다른 임계값이 규명되었으며, 첫 번째 임계값은 Oohama의 임계값을 향상시키고, 두 번째 임계값은 일부 경우에서 더 나은 성능을 보이지만, 두 임계값은 상호 보완적이며 상위 상호 관계를 갖지 않는다.
• 결과는 Berger와 Tung의 내부 경계에서 합 비용률 부분이 정사각형 왜곡 하에서 가우시안 소스에 대해 최적이며, Wagner 등이 이전에 한 연구를 확장함을 확인한다.