[論文レビュー] ORKA: Accelerated Kaczmarz Algorithms for Signal Recovery from One-Bit Samples

Arian Eamaz, Farhang Yeganegi+2 more|arXiv (Cornell University)|Dec 8, 2022

Sparse and Compressive Sensing Techniques被引用数 7

ひとこと要約

ORKAは、時間変動するしきい値を用いた1ビットサンプルから信号を回復するための高速化されたランダム化カツマルツアルゴリズムを提案する。サンプルの豊富さを活用して、非凸二次計画問題を線形可解問題に変換する。高い回復精度と高速性を達成し、従来のℓ¹-最小化と比較してはるかに少ないビット数と低い計算コストで優れた性能を発揮する。

ABSTRACT

One-bit quantization with time-varying sampling thresholds has recently found significant utilization potential in statistical signal processing applications due to its relatively low power consumption and low implementation cost. In addition to such advantages, an attractive feature of one-bit analog-to-digital converters (ADCs) is their superior sampling rates as compared to their conventional multi-bit counterparts. This characteristic endows one-bit signal processing frameworks with what we refer to as sample abundance. On the other hand, many signal recovery and optimization problems are formulated as (possibly non-convex) quadratic programs with linear feasibility constraints in the one-bit sampling regime. We demonstrate, with a particular focus on the nuclear norm minimization, that the sample abundance paradigm allows for the transformation of such quadratic problems to merely a linear feasibility problem by forming a large-scale overdetermined linear system; thus removing the need for costly optimization constraints and objectives. To make this achievable, we propose enhanced randomized Kaczmarz algorithms to tackle these highly overdetermined feasibility problems. Several numerical results are presented to illustrate the effectiveness of the proposed methodologies.

研究の動機と目的

• 時間変動するしきい値を用いた1ビットサンプルからの信号回復の課題に対処すること。これにより、高レートのサンプリングと低消費電力が実現される。
• 1ビットサンプリングにおけるサンプルの豊富さを活用し、複雑な最適化問題を線形可解問題に変換することで、高コストな目的関数と制約を回避すること。
• 1ビット測定から生じる大規模な過剰決定線形系を効率的に解くために、加速化されたカツマルツアルゴリズムを開発すること。
• 適応的しきい値と強化された収束性を活用して、低ランク行列回復と圧縮センシングにおける回復性能を向上させること。
• 従来のℓ¹-最小化と比較して、はるかに少ないビット数で、近似的に最適な回復が達成可能であることを実証すること。

提案手法

• ORKAは、複数の時間変動するしきち値からのサンプルの豊富さを活用して、非凸二次計画問題を過剰決定線形系に変換することで、信号回復を線形可解問題として定式化する。
• 高速収束を実現するための2つの強化されたランダム化カツマルツ法（PrSKMとブロックSKM）を採用する。
• アルゴリズムは、1ビット測定で定義される超平面に逐次射影を行い、収束性と精度を向上させるために適応的しきい値選択を実施する。
• 複数のしきい値シーケンスからなる符号制約が形成する1ビット多面体構造を活用して、解空間を制限する。
• 最尤推定フレームワークを用いて尤度関数を導出し、その後、ℓ¹正則化を用いた凸問題に緩和する。
• 理論的分析により、標準的なカツマルツ法と比較して、ORKAはより速い収束速度でグローバル収束を達成することが示された。

実験結果

リサーチクエスチョン

• RQ1 時間変動するしきい値を用いた1ビットサンプリングにおけるサンプルの豊富さを活用して、高コストな最適化目的関数と制約を排除できるか？
• RQ2 1ビット測定から生じる大規模な線形可解問題を効率的に解くために、ランダム化カツマルツ法をどのように高速化できるか？
• RQ3 圧縮センシングおよび低ランク回復において、ORKAは従来のℓ¹-最小化と比較して、精度と計算コストの点でどの程度の性能向上を達成できるか？
• RQ4 適応的しきい値選択は、1ビットサンプリングフレームワークにおける信号回復性能をどのように向上させるか？
• RQ5 従来の多ビットADCと比較して、ORKAははるかに少ないビット数で近似的に最適な回復を達成できるか？

主な発見

• ORKAは500ビットで正規化平均二乗誤差（NMSE）3.2052×10⁻¹²を達成し、ℓ¹-最小化が100サンプル（64ビット解像度）で必要な6400ビットを用いても同程度のNMSE 2.4572×10⁻¹¹にとどまることを上回る性能を示した。
• ORKAのCPU時間は3.1240×10⁻⁴秒であり、ℓ¹-最小化が要する0.0071秒よりも顕著に低いことが確認され、計算効率の優位性が裏付けられた。
• 時間変動するしきい値シーケンスの数を10から60に増加させることで回復性能が向上し、サンプル数の増加に伴いNMSEが低下した。
• 高次元信号（n=128）において、適応的しきい値を用いたORKAはスパarsityレベルk=20およびk=40の両方でNMSE 3.2052×10⁻¹²を達成し、異なる信号モデルに対しても高いロバスト性を示した。
• PrSKMおよびブロックSKMを用いた収束の加速により、標準的なカツマルツ法よりも速い収束速度で1ビット多面体のグローバル解が得られた。
• 核ノルム最小化および圧縮センシング問題がすべて線形可解問題に変換され、目的関数の反復的最適化の必要がなくなった。