[論文レビュー] Support Recovery and $\ell_2$-Error Bound for Sparse Regression with Quadratic Measurements via Weakly-Convex-Concave Regularization

Jun Fan, Ling Yang+2 more|arXiv (Cornell University)|Feb 19, 2026

Numerical methods in inverse problems被引用数 0

ひとこと要約

要約: 本稿は、二次測定を伴うスパース回帰の弱凸–凹正則化推定量の有限サンプル特性を分析し、局所最小解のサポート回復と ℓ₂-error を証明し、proximal gradient アルゴリズムを提案する。

ABSTRACT

The recovery of unknown signals from quadratic measurements finds extensive applications in fields such as phase retrieval, power system state estimation, and unlabeled distance geometry. This paper investigates the finite sample properties of weakly convex--concave regularized estimators in high-dimensional quadratic measurements models. By employing a weakly convex--concave penalized least squares approach, we establish support recovery and $\ell_2$-error bounds for the local minimizer. To solve the corresponding optimization problem, we adopt two proximal gradient strategies, where the proximal step is computed either in closed form or via a weighted $\ell_1$ approximation, depending on the regularization function. Numerical examples demonstrate the efficacy of the proposed method.

研究の動機と目的

• 二次測定を伴うスパース回帰とその応用（位相回収、電力系統状態推定、距離幾何）を動機づける。
• 統計的効率と計算可能性のバランスを取るための弱凸-凹ペナルティ（WCCP）クラスを導入する。
• WCCP-正則化損失の局所最小解に対する非漸近保証（サポート回復と ℓ₂誤差）を確立する。
• WCCP正則化子に対する収束保証を持つ proximal gradient アルゴリズムを開発する。
• 提案手法のスパース位相回収シナリオにおける有効性を数値的に示す証拠を提供する。

提案手法

• 弱凸–凹ペナルティを用いた正則化最小二乗問題を定式化する：minβ L(β) + Pλ(β)。
• 2つの proximal gradient 戦略を採用する；近接ステップは一部のペナルティで閉形式、または加重 ℓ1 近似で計算。
• 最小解の2つの固定点表現を用いる：proxτPλ(β̂) = β̂ − τ∇L(β̂) および 加重ソフト閾値化形。
• ステップサイズを適応させ安定収束を保証するために Armijo 線探索を実装。
• proximal mapping と再加重 ℓ1 サロゲートを組み合わせた反復法（Algorithm 1 および Algorithm 2）を提案。
• 単調減少と固定点特性を保証する理論的収束結果を提供。

実験結果

リサーチクエスチョン

• RQ1 WCCP-正則化推定量は高次元の二次測定モデルで真のスパースサポートを回復できるか？
• RQ2 WCCP-正則化目的関数の局所最小解に対してどのような有限サンプルの ℓ₂-誤差境界が確立できるか？
• RQ3 設計行列、正則化、ノイズに関するどの条件の下で提案アルゴリズムは意味のある停留点へ収束するか？
• RQ4 WCCPベースの手法は統計的・計算的に LASSO や他の非凸ペナルティと比べてどうか？
• RQ5 既知の平方リンクを持つスパース位相回収および単一指標モデルへの含意は何か？

主な発見

• 定理2は非漸近的保証を提供する：適切な条件下で局所最小解は高確率で真のサポートを回復し、n が大きくなると消える ℓ₂-誤差境界 rₙ を達成する。
• オラクル推定量の解析（定理1）は、一様性を示し、√(ln(1+2n)/n) および λnρ/√s に依存する誤差境界 rₙ を与える。
• 提案する WCCP フレームワークは一般的なペナルティ（SCAD、MCP、LOG、EXP、Firm）を含み、有限サンプルで好適な性能をもたらす。
• 収束保証を伴う2つの proximal gradient アルゴリズムを開発し、WCCP-正則化推定量の実用的計算を可能にする。
• 数値実験は SCAD および MCP が LASSO や他のベースラインと比較して特に n/d が 1 に近づくと精度と計算効率で優れた性能を示し、スパース位相回収で強力に機能することを示す。