[論文レビュー] Nearly-optimal bounds for sparse recovery in generic norms, with applications to k-median sketching

Artūrs Bačkurs, Piotr Indyk+2 more|arXiv (Cornell University)|Jan 10, 2016

Sparse and Compressive Sensing Techniques参考文献 29被引用数 8

ひとこと要約

この論文は、k-スパースなベクトル上のノルムの距離空間のダブリング次元に測定数を関連させることで、一般のノルムにおけるスパースリカバリーのほぼ最適な測定バウンドを確立する。地球移動距離（EMD）などのノルムに対する新しい効率的なスケッチ方式を提供し、FrahlingとSohler（STOC'05）が提起した動的ストリーミングにおけるk-メディアンクラスタリングの空間計算量に関する未解決問題を解決する。

ABSTRACT

We initiate the study of trade-offs between sparsity and the number of measurements in sparse recovery schemes for generic norms. Specifically for a norm ||·||, sparsity parameter k, approximation factor K > 0, and probability of failure P > 0, we ask: what is the minimal value of m so that there is a distribution over m × n matrices A with the property that for any x, given Ax, we can recover a k-sparse approximation to x in the given norm with probability at least 1 -- P? We give a partial answer to this problem, by showing that for norms that admit efficient linear sketches, the optimal number of measurements m is closely related to the doubling dimension of the metric induced by the norm ||·|| on the set of all k-sparse vectors. By applying our result to specific norms, we cast known measurement bounds in our general framework (for the ep norms, p ∈ [1, 2]) as well as provide new, measurement-efficient schemes (for the Earth-Mover Distance norm). The latter result directly implies more succinct linear sketches for the well-studied planar k-median clustering problem. Finally our lower bound for the doubling dimension of the EMD norm enables us to resolve the open question of [Frahling-Sohler, STOC'05] about the space complexity of clustering problems in the dynamic streaming model.

研究の動機と目的

• 任意のノルムにおけるスパースリカバリーのスパarsityと測定複雑度のトレードオフを理解すること。
• 失敗確率Pの下で、与えられたノルムにおいて信頼性のあるk-スパース近似を実現するために必要な最小測定数mを特定すること。
• 特にℓp（p ∈ [1,2]）および地球移動距離（EMD）などの特定のノルムにこのフレームワークを適用し、新しい測定効率の高いスケッチ方式を導出すること。
• FrahlingとSohler（STOC'05）が提起した動的ストリーミングk-メディアンクラスタリングの空間計算量に関する未解決問題を解決すること。

提案手法

• ノルム||·||に対してスパースリカバリー問題を定義し、m個の線形測定Axからxのk-スパース近似を回復することを目的とする。
• 最適な測定数mと、||·||がk-スパースベクトルの集合に誘導する距離空間のダブリング次元との間の関係を確立する。
• 効率的な線形スケッチを許容するノルムでは、ダブリング次元が測定複雑度の代理として機能することを用いる。
• 既知のノルム（例：p ∈ [1,2]のℓp）にこのフレームワークを適用し、既存のバウンドを再現することで、アプローチの妥当性を検証する。
• EMDノルムを分析し、k-メディアンクラスタリングのための新しい測定効率の高いスケッチ方式を導出する。
• EMDノルムのダブリング次元に対する下界を導出し、測定バウンドのタイトネスを証明するとともに、動的ストリーミングの計算量問題を解決する。

実験結果

リサーチクエスチョン

• RQ1 k-スパース近似と失敗確率Pを満たす一般のノルムにおけるスパースリカバリーに必要な最小測定数mは何か？
• RQ2 k-スパースベクトル上でのノルムの距離空間のダブリング次元は、最適な測定複雑度とどのように関係するか？
• RQ3 このフレームワークは、地球移動距離（EMD）のようなノルムに対して、新たなより効率的なスケッチ方式を導出できるか？
• RQ4 導出されたバウンドは、動的ストリーミングk-メディアンクラスタリングの空間計算量に関する未解決問題を解消するか？
• RQ5 既存のℓpノルムに対するスパースリカバリーのバウンドは、この一般フレームワークにどの程度適合するか？

主な発見

• ノルム||·||におけるスパースリカバリーの最適な測定数mは、||·||がk-スパースベクトルの集合に誘導する距離空間のダブリング次元によってタイトに特徴づけられる。
• 効率的な線形スケッチを許容するノルムでは、測定複雑度は、k-スパース部分空間のダブリング次元によって漸近的に決定される。
• このフレームワークは、p ∈ [1,2]のℓpノルムに対して既存の測定バウンドを再現し、その一般性と正確性を検証する。
• 平面的k-メディアンクラスタリングのためのより短い線形スケッチを可能にする、地球移動距離（EMD）ノルムに対する新しい測定効率の高いスケッチ方式が開発された。
• EMDノルムのダブリング次元に対する下界が確立され、FrahlingとSohler（STOC'05）が提起した動的ストリーミングk-メディアンクラスタリングの空間計算量に関する未解決問題が直接的に解決された。
• この結果は、動的ストリーミングk-メディアンクラスタリングの空間計算量が、k-スパースベクトル上でのEMD距離空間のダブリング次元によってタイトに束縛されることを示唆する。