[论文解读] Inference of signals with unknown correlation structure from nonlinear measurements

Jakob Knollmüller, Theo Steininger+1 more|arXiv (Cornell University)|Nov 8, 2017

Scientific Measurement and Uncertainty Evaluation参考文献 1被引用 7

一句话总结

本文提出了一种快速的变分推理方法，用于从具有单调响应函数的非线性、噪声测量中重建具有未知自相关结构的信号。通过重新表述信号表示并利用近似后验抽样，该方法实现了信号、其相关结构和噪声的高效联合推断，并提供不确定性量化，已在模拟和真实的射电天文数据（包括SN 3C391）上得到验证。

ABSTRACT

We present a method to reconstruct autocorrelated signals together with their autocorrelation structure from nonlinear, noisy measurements for arbitrary monotonous nonlinear instrument response. In the presented formulation the algorithm provides a significant speedup compared to prior implementations, allowing for a wider range of application. The nonlinearity can be used to model instrument characteristics or to enforce properties on the underlying signal, such as positivity. Uncertainties on any posterior quantities can be provided due to independent samples from an approximate posterior distribution. We demonstrate the methods applicability via simulated and real measurements, using different measurement instruments, nonlinearities and dimensionality.

研究动机与目标

• 从非线性、噪声测量中实现信号及其未知自相关结构的联合重建。
• 通过重新表述信号表示，克服Gibbs采样和关键滤波器等先前方法的计算局限性，实现更快的收敛速度。
• 将信号推断扩展至任意单调非线性关系，以建模仪器非线性或信号约束（如非负性）。
• 通过从近似后验分布中独立抽样，为任意后验量提供不确定性估计。
• 在多种成像问题中展示方法的适用性，包括具有未知噪声水平的真实世界射电干涉数据。

提出的方法

• 在信息场理论（IFT）框架内构建推断问题，实现跨维度和仪器的泛化。
• 以相关参数直接传递至数据的方式，替代间接的信号表示，显著加快收敛速度。
• 通过最小化真实后验分布与近似后验分布之间Kullback-Leibler（KL）散度的统计估计，实现变分推断。
• 利用独立的后验样本，对任意导出量（如重建保真度或相对误差）进行不确定性估计。
• 将噪声协方差估计整合到推断过程中，实现在重建期间的自校准。
• 将非线性性限制为单调的局部函数，以确保优化过程中的唯一解和稳定性。

实验结果

研究问题

• RQ1 是否能够开发一种计算高效的算法，联合推断非线性、噪声测量中的信号及其未知相关结构？
• RQ2 如何通过重新表述信号表示，显著提升现有关键滤波器方法的收敛速度？
• RQ3 在多大程度上可以将任意单调非线性关系整合到推断框架中，以建模仪器响应或强制信号特性？
• RQ4 是否能够通过后验抽样可靠地获得复杂后验量（如相对重建保真度）的不确定性估计？
• RQ5 该方法是否能够成功地从真实世界干涉数据中重建具有未知噪声水平的高动态范围信号？

主要发现

• 所提出的方法相较于先前关键滤波器的实现具有显著的速度提升，使其能够应用于更大、更复杂的问题。
• 对超新星遗迹3C391的重建成功分辨出锐利的激波前沿和纤维状结构，即使在低强度区域也保持了高空间保真度。
• 基于100个后验样本导出的相对不确定性估计显示，低强度区域不确定性较高，而强辐射区域不确定性较低，证实了可靠的误差量化。
• 该方法能够在推断过程中实现噪声协方差的自校准，从而在缺乏仪器噪声水平先验知识的情况下也能实现准确重建。
• 采用指数非线性函数可强制实现信号非负性，并建模对数正态通量分布，这对射电强度重建至关重要。
• 后验样本证实，该算法能提供数值稳定的重建结果，避免发散，尤其通过在噪声精度（逆伽马分布，众数为1e-5，均值为100）上进行仔细的先验选择。