[논문 리뷰] Generalized Gaussian Multiterminal Source Coding: The Symmetric Case

Jun Chen, Li Xie외 3명|arXiv (Cornell University)|2017. 10. 12.

Wireless Communication Security Techniques참고 문헌 10인용 수 5

한 줄 요약

이 논문은 ℓ개의 소스와 각각 크기 m인 부분집합을 관측하는 인코더를 갖는 대칭 일반화된 가우시안 다중소스 코딩을 연구한다. ρ ≤ 0 이거나 ρ > 0 이며 임계값 이하일 경우, 최적의 비트 전달률-왜곡 성능이 중심화된 경우와 일치함을 보이며, 이는 공유 관측 부분집합을 통한 협업이 이러한 조건 하에서 전체 중심화와 동일한 압축 효율성을 달성할 수 있음을 시사한다.

ABSTRACT

Consider a generalized multiterminal source coding system, where $\ell\choose m$ encoders, each observing a distinct size-$m$ subset of $\ell$ ($\ell\geq 2$) zero-mean unit-variance symmetrically correlated Gaussian sources with correlation coefficient $ρ$, compress their observations in such a way that a joint decoder can reconstruct the sources within a prescribed mean squared error distortion based on the compressed data. The optimal rate-distortion performance of this system was previously known only for the two extreme cases $m=\ell$ (the centralized case) and $m=1$ (the distributed case), and except when $ρ=0$, the centralized system can achieve strictly lower compression rates than the distributed system under all non-trivial distortion constraints. Somewhat surprisingly, it is established in the present paper that the optimal rate-distortion performance of the afore-described generalized multiterminal source coding system with $m\geq 2$ coincides with that of the centralized system for all distortions when $ρ\leq 0$ and for distortions below an explicit positive threshold (depending on $m$) when $ρ>0$. Moreover, when $ρ>0$, the minimum achievable rate of generalized multiterminal source coding subject to an arbitrary positive distortion constraint $d$ is shown to be within a finite gap (depending on $m$ and $d$) from its centralized counterpart in the large $\ell$ limit except for possibly the critical distortion $d=1-ρ$.

연구 동기 및 목표

• ℓ개의 평균이 0이고 분산이 1인 가우시안 소스와 상관계수 ρ를 갖는 대칭 일반화된 다중소스 코딩 시스템에서 최적의 전달률-왜곡 트레이드오프를 규명하는 것.
• 인코더 간 협업(부분집합 크기 m에 의해 제어됨)이 중심화된 코딩과 분산 코딩에 비해 압축 효율성에 미치는 영향을 조사하는 것.
• 일반화된 시스템의 전달률-왜곡 성능이 중심화된 시스템과 일치하는 조건을 규명하는 것.
• ρ > 0 인 경우, 대규모 ℓ에서 일반화된 시스템과 중심화된 시스템 간의 유한한 전달률 갭을 규명하는 것, 다만 d = 1 − ρ에서만 예외일 수 있음.
• 1 < m < ℓ 인 경우 대칭 케이스에서의 전달률-왜곡 함수에 대한 오랫동안 미해결된 열린 문제를 해결하는 것.

제안 방법

• 상관계수 ρ를 갖는 대칭 가우시안 소스 모델을 사용하여 문제를 수립하고, 역워터필링 접근법을 통해 전달률-왜곡 영역을 정의한다.
• 가우시안 추정 프레임워크를 사용하여 최적성의 충분조건을 도출하며, 공동 디코더가 최소 평균 제곱오차 추정을 통해 소스를 재구성한다.
• 모든 ℓ개 소스의 m개 요소 부분집합 S에 대해 인덱싱된 보조 랜덤 변수 U⁺_S(γ)를 도입하여 압축된 관측값을 모델링한다.
• 최적성 증명을 위해 추정 오차와 보조 변수 간의 직교 조건을 수립한다.
• 트레이스 왜곡 제약 조건을 사용하고, X_i, U⁺_S(γ), 그리고 노이즈 항 N⁺_S를 포함한 기대값의 명시적 계산을 통해 각 소스에 대한 평균 제곱오차를 계산한다.
• 대규모 ℓ 근처에서의 점근적 행동을 분석하여, ρ > 0 인 경우 일반화된 시스템과 중심화된 시스템 간의 갭을 유계로 제한한다.

실험 결과

연구 질문

• RQ1 m ≥ 2 인 경우 일반화된 다중소스 코딩 시스템이 중심화된 시스템과 동일한 전달률-왜곡 성능을 달성하는 조건은 무엇인가?
• RQ2 상관계수 ρ가 ρ > 0 인 경우 일반화된 코딩과 중심화된 코딩 간의 가용 전달률에서 어떤 영향을 미치는가?
• RQ3 ρ > 0 인 경우 대규모 ℓ에서 일반화된 시스템의 최적 전달률과 중심화된 시스템 간의 유한한 갭은 무엇인가?
• RQ4 ρ ≤ 0 인 경우, 모든 왜곡 수준에서 일반화된 시스템의 성능이 중심화된 시스템과 일치할 수 있는가?
• RQ5 비교적 중요한 왜곡 d = 1 − ρ는 무엇이며, 왜 점근적 분석에서 예외가 되는가?

주요 결과

• ρ ≤ 0 이면, m ≥ 2 인 일반화된 다중소스 시스템의 최적 전달률-왜곡 성능은 모든 왜곡 수준에서 중심화된 시스템과 정확히 일치한다.
• ρ > 0 이면, 일반화된 시스템은 m과 ρ에 명시적으로 의존하는 임계값 이하의 모든 왜곡 수준에서 중심화된 시스템과 동일한 전달률-왜곡 성능을 달성한다.
• ρ > 0 이면, 대규모 ℓ 근처에서 일반화된 시스템의 최소 달성 가능한 전달률은 중심화된 전달률과 m과 d에 따라 달라지는 유한한 갭 내에 있으며, 다만 가능성이 있는 중요한 왜곡 d = 1 − ρ에서만 예외일 수 있다.
• m ≥ 2 인 경우 대칭 일반화된 시스템의 전달률-왜곡 함수는 완전히 규명되었으며, 문헌에서 오랫동안 미해결이었던 문제를 해결하였다.
• ρ ≤ 0 이거나 ρ > 0 이면서 낮은 왜곡 수준에서 일반화된 시스템과 중심화된 시스템 간의 등가성은 추정 프레임워크 내에서 새로운 직교 조건을 통해 입증되었다.
• 분석 결과, 공유 관측 부분집합(m ≥ 2)을 통한 인코더 간 협업이 특정 상관계수 영역에서는 분산 압축의 전달률 손실을 완전히 제거할 수 있음을 확인하였다.