[论文解读] Compressive Sensing with Low Precision Data Representation: Radio Astronomy and Beyond.

Nezihe Merve Gürel, Kaan Kara+2 more|arXiv (Cornell University)|Feb 14, 2018

Sparse and Compressive Sensing Techniques被引用 2

一句话总结

本文提出了一种用于射电天文学和医学成像中压缩感知的低精度归一化迭代硬阈值（IHT）算法，支持具有可证明恢复保证的激进数据量化。该算法在CPU和FPGA平台上实现了高达9倍的加速，同时质量损失可忽略不计，展示了在不显著降低信号质量的前提下实现实际加速的潜力。

ABSTRACT

Modern scientific instruments produce vast amounts of data, which can overwhelm the processing ability of computer systems. Lossy compression of data is an intriguing solution, but comes with its own drawbacks, such as potential signal loss, and the need for careful optimization of the compression ratio. In this work, we focus on a setting where this problem is especially acute: compressive sensing frameworks for interferometry and medical imaging. We ask the following question: can the precision of the data representation be lowered for all inputs, with recovery guarantees and practical performance? Our first contribution is a theoretical analysis of the normalized Iterative Hard Thresholding (IHT) algorithm when all input data, meaning both the measurement matrix and the observation vector are quantized aggressively. We present a variant of low precision normalized {IHT} that, under mild conditions, can still provide recovery guarantees. The second contribution is the application of our quantization framework to radio astronomy and magnetic resonance imaging. We show that lowering the precision of the data can significantly accelerate image recovery. We evaluate our approach on telescope data and samples of brain images using CPU and FPGA implementations achieving up to a 9x speed-up with negligible loss of recovery quality.

研究动机与目标

• 解决现代科学仪器（如射电望远镜和MRI扫描仪）产生的海量数据处理挑战。
• 研究在压缩感知框架中是否可以普遍应用数据表示的激进量化，而不会牺牲恢复质量。
• 为低精度输入条件下归一化IHT建立理论基础，确保稳定的信号恢复。
• 在射电天文学和MRI的实际应用中，展示图像恢复速度的实用性能提升。

提出的方法

• 提出一种在量化测量矩阵和观测向量上运行的归一化迭代硬阈值（IHT）变体。
• 理论分析在测量矩阵和信号稀疏性满足弱条件时，对低精度IHT的恢复保证。
• 将量化框架应用于射电望远镜的干涉测量数据和脑部MRI样本。
• 在CPU和FPGA平台上实现该算法，以评估实际性能和加速效果。
• 在保持信号重建保真度的前提下，对输入数据实施激进量化（例如8位或更低）。
• 优化IHT算法以支持低精度算术运算，最大化计算效率。

实验结果

研究问题

• RQ1 当测量矩阵和观测向量均被量化为低精度时，压缩感知的恢复是否仍能保证？
• RQ2 低精度数据表示对归一化IHT算法的收敛性和准确性有何影响？
• RQ3 在射电天文学和MRI应用中，数据量化能在多大程度上加速图像恢复？
• RQ4 与标准IHT相比，低精度IHT在速度和重建质量方面的表现如何？

主要发现

• 所提出的低精度归一化IHT算法在弱假设下仍能保持可证明的恢复保证，即使对输入数据实施了激进量化。
• 该方法在CPU和FPGA平台上实现的图像恢复速度最高可达9倍加速，且重建质量损失可忽略不计。
• 对测量矩阵和观测向量同时进行量化，可在保持信号保真度的同时实现显著的计算加速。
• 该框架在真实望远镜数据和脑部MRI样本上得到验证，展示了在多样化科学成像应用中的鲁棒性。
• FPGA实现展现出出色的可扩展性和效率，凸显了硬件优化的低精度压缩感知的潜力。