[論文レビュー] The PhaseLift for Non-quadratic Gaussian Measurements

Christos Thrampoulidis, Ankit Singh Rawat|arXiv (Cornell University)|Dec 11, 2017

Advanced X-ray Imaging Techniques参考文献 31被引用数 3

ひとこと要約

本稿では、従来の最小二乗法やLasso法が線形感度がゼロ（$\mu_\ell = 0$）であるために失敗する状況において、非二次的ガウス測定から構造的信号を回復するため、半定値最適化手法PhaseLiftを提案する。問題を高次元空間にリフトすることで、非線形リンク関数をリフトされた空間内では線形とみなせるようになり、非線形性を捉える解釈可能な少数のパラメータに依存する誤差バインディングを実現する一貫性のある回復が達成される。

ABSTRACT

We study the problem of recovering a structured signal $\mathbf{x}_0$ from high-dimensional measurements of the form $y=f(\mathbf{a}^T\mathbf{x}_0)$ for some nonlinear function $f$. When the measurement vector $\mathbf a$ is iid Gaussian, Brillinger observed in his 1982 paper that $\mu_\ell\cdot\mathbf{x}_0 = \min_{\mathbf{x}}\mathbb{E}(y - \mathbf{a}^T\mathbf{x})^2$, where $\mu_\ell=\mathbb{E}_{\gamma}[\gamma f(\gamma)]$ with $\gamma$ being a standard Gaussian random variable. Based on this simple observation, he showed that, in the classical statistical setting, the least-squares method is consistent. More recently, Plan \& Vershynin extended this result to the high-dimensional setting and derived error bounds for the generalized Lasso. Unfortunately, both least-squares and the Lasso fail to recover $\mathbf{x}_0$ when $\mu_\ell=0$. For example, this includes all even link functions. We resolve this issue by proposing and analyzing an appropriate generic semidefinite-optimization based method. In a nutshell, our idea is to treat such link functions as if they were linear in a lifted space of higher-dimension. An appealing feature of our error analysis is that it captures the effect of the nonlinearity in a few simple summary parameters, which can be particularly useful in system design.

研究の動機と目的

• 線形感度がゼロ（$\\mu_\\ell = 0$）となる偶関数のリンク関数を有する場合に、最小二乗法やLasso法が高次元信号回復で失敗する問題に対処すること。
• i.i.d. ガウス分布に従う $\mathbf{a}$ を用いた $y = f(\mathbf{a}^T\mathbf{x}_0)$ の形の非線形測定から構造的信号を回復するための、ロバストで汎用的な手法を開発すること。
• 非線形性の影響を少数の要約パラメータで要約し、理論的誤差解析を提供することで、実用的なシステム設計を可能にすること。

提案手法

• 非線形測定を線形とみなせる高次元空間に問題をリフトすることで、半定値計画法（SDP）の定式化を可能にする。
• 測定モデルの構造と非線形関数の2階モーメントを活用し、PhaseLiftを用いて回復問題を凸最適化として定式化する。
• Brillinger（1982）のキーポイントである $\mu_\ell = \mathbb{E}[\gamma f(\gamma)]$ がリンク関数 $f$ の有効な線形感度を決定することを活用する。
• 元の非凸問題の凸な代理問題を最小化する半定値計画を設計し、高次元漸近的条件下での一貫性を保証する。
• 関数 $f$ とガウス分布から導かれる要約パラメータを導入し、非線形性が回復誤差に与える影響を定量化する。
• これらのパラメータに依存する誤差バインディングを確立し、性能予測とシステム設計を可能にする。

実験結果

リサーチクエスチョン

• RQ1 線形感度 $\mu_\ell = 0$ の場合に、凸最適化フレームワークが非線形ガウス測定から構造的信号を回復できるか？
• RQ2 測定関数 $f$ の非線形性を、理論的誤差解析が可能になるようにどのように要約できるか？
• RQ3 標準的手法が線形感度がゼロのため失敗する状況において、リフトされた半定値計画法の信号回復性能はいかほどか？
• RQ4 パラメータ $\mu_\ell$ と $f$ の高次モーメントが、高次元設定における回復誤差にどのように影響するか？
• RQ5 誤差バインディングを、測定設計を指針とする解釈可能なシステムレベルのパラメータで表現できるか？

主な発見

• 提案された半定値最適化手法は、$\mu_\ell = 0$ であっても構造的信号を正常に回復でき、この状況で最小二乗法やLasso法が失敗する問題を克服する。
• 問題を高次元空間にリフトすることで、非線形測定モデルが有効には線形とみなされ、一貫性のある回復が達成される。
• 非線形性を捉える少数の要約パラメータ（例：$\mu_\ell = \mathbb{E}[\gamma f(\gamma)]$）に基づいた誤差バインディングが導出され、解釈可能な性能解析が可能になる。
• 誤差解析は非線形関数 $f$ の構造を明示的に考慮しており、システム設計と性能予測のためのフレームワークを提供する。
• Plan & Vershynin の先行研究を、偶関数のリンク関数や線形手法が失敗するその他の非線形性へと一般化する。