[论文解读] Analog Coding of a Source with Erasures

Marina Haikin, Ram Zamir|arXiv (Cornell University)|Feb 10, 2016

Mathematical Analysis and Transform Methods参考文献 18被引用 6

一句话总结

本文研究了在擦除型辅助信息（erasure side information）下的模拟编码用于源压缩，提出了一种基于变换的方案，通过DFT和等角紧框架（ETFs）等框架插值关键样本。结果表明，ETFs——尤其是具有差集谱（difference-set spectra）的ETFs——在信号放大和额外速率方面优于随机和带限框架，尽管模拟编码在渐近意义上仍无法达到率失真函数（RDF）。

ABSTRACT

Analog coding decouples the tasks of protecting against erasures and noise. For erasure correction, it creates an "analog redundancy" by means of band-limited discrete Fourier transform (DFT) interpolation, or more generally, by an over-complete expansion based on a frame. We examine the analog coding paradigm for the dual setup of a source with "erasure" side-information (SI) at the encoder. The excess rate of analog coding above the rate-distortion function (RDF) is associated with the energy of the inverse of submatrices of the frame, where each submatrix corresponds to a possible erasure pattern. We give a partial theoretical as well as numerical evidence that a variety of structured frames, in particular DFT frames with difference-set spectrum and more general equiangular tight frames (ETFs), with a common MANOVA limiting spectrum, minimize the excess rate over all possible frames. However, they do not achieve the RDF even in the limit as the dimension goes to infinity.

研究动机与目标

• 探究使用结构化框架的模拟编码是否能在擦除型辅助信息的源编码中逼近最优率失真函数（RDF）。
• 分析基于变换的模拟编码中的信号放大（反向能量），该放大导致所需速率超过RDF。
• 识别出在所有擦除模式下平均额外速率最小化的框架设计。
• 将结构化框架（特别是ETFs和DFT框架）的渐近性能与随机i.i.d.变换进行比较。
• 确定ETFs和差集谱框架是否在擦除条件下对模拟编码具有渐近最优性。

提出的方法

• 采用两阶段模拟编码方案：编码器应用基于辅助信息的线性变换T_enc，随后进行量化；解码器应用T_dec以重建信号。
• 将由于信号放大引起的额外速率建模为对应于擦除模式的框架矩阵子矩阵的反向能量（IE）。
• 分析所有擦除模式下反向能量（IE）的分布及其均值（MLIE），以量化放大效应。
• 利用随机矩阵理论研究框架子矩阵的渐近特征值分布，表明其收敛至MANOVA（Jacobian）分布。
• 通过数值仿真与理论分析，比较结构化框架——包括具有差集谱的DFT、实数ETF（如Paley构造）以及随机i.i.d.矩阵。
• 利用Welch界与框架理论定义ETFs为实现恒定互相关与最小相干性的框架，仿真结果表明其可最小化MLIE。

实验结果

研究问题

• RQ1 使用结构化框架的模拟编码能否在擦除型辅助信息源压缩中，即使在n → ∞的渐近极限下，也达到率失真函数（RDF）？
• RQ2 框架选择（如DFT、ETF、随机i.i.d.）如何影响模拟编码中的信号放大（反向能量）及由此产生的额外速率？
• RQ3 具有等角紧框架（ETF）结构或差集谱（DSS）特性的框架是否能最小化所有擦除模式下的平均反向能量（MLIE）？
• RQ4 最优框架（如DSS和ETFs）是否共享一种普遍的渐近谱行为（如MANOVA极限分布）？
• RQ5 ETFs和DSS框架是否在最小化由放大引起的平均额外速率方面具有渐近最优性，即使它们无法实现RDF？

主要发现

• ETFs，特别是具有差集谱（DSS）的ETFs，在所有测试框架中实现了最低的平均反向能量（MLIE），表明其信号放大最小，因此额外速率最低。
• DSS和ETFs的反向能量（IE）分布收敛至与随机i.i.d.矩阵相同的MANOVA（Jacobian）极限谱分布，表明具有普遍的渐近行为。
• 尽管性能优越，ETFs和DSS框架在n → ∞的极限下仍导致高于率失真函数（RDF）的额外速率。
• 当n = 947且β = 1.25时，DSS框架在平均额外速率方面优于随机i.i.d.和低通DFT框架。
• 数值结果表明，在高信噪比（30 dB）下，实数ETFs（如Paley构造）的额外速率低于随机i.i.i.d.变换，证实其实际优势。
• 本文推测，所有具有相同MANOVA极限谱的框架（包括各类ETFs）在渐近性能上是等价的，且ETFs在存在时的维度下是MLIE的局部极小化器。