[论文解读] The PhaseLift for Non-quadratic Gaussian Measurements

Christos Thrampoulidis, Ankit Singh Rawat|arXiv (Cornell University)|Dec 11, 2017

Advanced X-ray Imaging Techniques参考文献 31被引用 3

一句话总结

本文提出了一种半定优化方法——PhaseLift，用于从非二次高斯测量中恢复结构化信号，当传统最小二乘法和Lasso方法因线性灵敏度为零（$\mu_\ell = 0$）而失效时，该方法仍能有效工作。通过将问题提升到更高维空间，该方法在提升后的域中将非线性链接函数视为线性，从而实现一致恢复，并获得依赖于少数可解释参数的误差界，这些参数捕捉了非线性特性。

ABSTRACT

We study the problem of recovering a structured signal $\mathbf{x}_0$ from high-dimensional measurements of the form $y=f(\mathbf{a}^T\mathbf{x}_0)$ for some nonlinear function $f$. When the measurement vector $\mathbf a$ is iid Gaussian, Brillinger observed in his 1982 paper that $\mu_\ell\cdot\mathbf{x}_0 = \min_{\mathbf{x}}\mathbb{E}(y - \mathbf{a}^T\mathbf{x})^2$, where $\mu_\ell=\mathbb{E}_{\gamma}[\gamma f(\gamma)]$ with $\gamma$ being a standard Gaussian random variable. Based on this simple observation, he showed that, in the classical statistical setting, the least-squares method is consistent. More recently, Plan \& Vershynin extended this result to the high-dimensional setting and derived error bounds for the generalized Lasso. Unfortunately, both least-squares and the Lasso fail to recover $\mathbf{x}_0$ when $\mu_\ell=0$. For example, this includes all even link functions. We resolve this issue by proposing and analyzing an appropriate generic semidefinite-optimization based method. In a nutshell, our idea is to treat such link functions as if they were linear in a lifted space of higher-dimension. An appealing feature of our error analysis is that it captures the effect of the nonlinearity in a few simple summary parameters, which can be particularly useful in system design.

研究动机与目标

• 解决当链接函数为偶函数、导致线性灵敏度为零（$\mu_\ell = 0$）时，最小二乘法和Lasso方法在高维信号恢复中失效的问题。
• 开发一种稳健且通用的方法，用于从形式为$y = f(\mathbf{a}^T\mathbf{x}_0)$的非线性测量中恢复结构化信号，其中$\mathbf{a}$为独立同分布的高斯向量。
• 提供理论误差分析，通过一组简化的总结参数捕捉非线性的影响，从而支持实际系统设计。

提出的方法

• 将原始信号恢复问题提升到更高维空间，使非线性测量在该空间中被视为线性，从而实现半定规划（SDP）的公式化。
• 通过PhaseLift将恢复问题表述为凸优化问题，利用测量模型的结构以及非线性函数的二阶矩。
• 利用Brillinger（1982）的关键洞察：$\mu_\ell = \mathbb{E}[\gamma f(\gamma)]$ 决定了链接函数$f$的有效线性灵敏度。
• 设计一个半定规划，最小化原始非凸问题的凸近似，确保在高维渐近下的一致性。
• 从$f$和高斯分布中推导出总结参数，以量化非线性对恢复误差的影响。
• 建立依赖于这些参数的误差界，从而实现性能预测与系统设计。

实验结果

研究问题

• RQ1 当$\mu_\ell = 0$时，凸优化框架能否从非线性高斯测量中恢复结构化信号？
• RQ2 如何以可分析的方式捕捉测量函数$f$中的非线性，以支持理论误差分析？
• RQ3 当标准方法因线性灵敏度为零而失效时，提升后的半定规划在信号恢复中的性能如何？
• RQ4 在高维设置下，参数$\mu_\ell$和$f$的高阶矩如何影响恢复误差？
• RQ5 误差界能否用可解释的、面向系统的参数表示，从而指导测量设计？

主要发现

• 所提出的半定优化方法即使在$\mu_\ell = 0$时也能成功恢复结构化信号，克服了最小二乘法和Lasso在此类情况下的失效问题。
• 该方法通过将问题提升到更高维空间，使非线性测量模型在该空间中变得有效线性，从而实现一致恢复。
• 误差界以捕捉非线性的少数总结参数表示，如$\mu_\ell = \mathbb{E}[\gamma f(\gamma)]$，从而实现可解释的性能分析。
• 误差分析明确考虑了非线性函数$f$的结构，为系统设计和性能预测提供了框架。
• 该方法推广了Plan与Vershynin的先前结果，适用于偶函数链接函数及其他线性方法失效的非线性情形。