[論文レビュー] Approximating matrices and convex bodies through Kadison-Singer

Omer Friedland, Pierre Youssef|arXiv (Cornell University)|May 12, 2016

Sparse and Compressive Sensing Techniques参考文献 32被引用数 3

ひとこと要約

本稿では、Kadison-Singer問題の解を用いた新しい行列近似手法を提示する。これにより、安定ランクに比例するサイズの部分行列選択が可能となり、先行研究に見られる対数的要因が排除される。等しい重みを用いた最適なスパarsificationが達成され、John分解における接触点問題も完全に解決され、任意の凸体をBanach-Mazur距離で1+ε以内に近似する凸体にO(n)/ε²個の接触点を持つことが得られる。

ABSTRACT

We show that any $n imes m$ matrix $A$ can be approximated in operator norm by a submatrix with a number of columns of order the stable rank of $A$. This improves on existing results by removing an extra logarithmic factor in the size of the extracted matrix. Our proof uses the recent solution of the Kadison-Singer problem. We also develop a sort of tensorization technique to deal with constraint approximation problems. As an application, we provide a sparsification result with equal weights and an optimal approximate John's decomposition for non-symmetric convex bodies. This enables us to show that any convex body in $\mathbb{R}^n$ is arbitrary close to another one having $O(n)$ contact points and fills the gap left in the literature after the results of Rudelson and Srivastava by completely answering the problem. As a consequence, we also show that the method developed by Guédon, Gordon and Meyer to establish the isomorphic Dvoretzky theorem yields to the best known result once we inject our improvements.

研究の動機と目的

• 行列近似における列サブセット選択の対数的要因を排除すること。
• 既存の重み付き手法を改善する、等しい列重みを用いたスパarsification手法の開発。
• 非対称凸体におけるJohn分解の接触点数を最小化するという未解決問題の解決。
• 次元の上限に余分な対数的要因が含まれない最適な同型Dvoretzky定理の確立。
• RudelsonとSrivastavaによる凸体近似に関する先行結果を統合・改善すること。

提案手法

• Kadison-Singer問題の解を活用し、元の行列の作用素ノルムにおいて近似できる、安定ランクに比例するサイズの部分行列を構築する。
• 行列幾何および凸幾何における制約近似問題を扱うために、テンソル化技術を導入する。
• 行列D（非ゼロ要素がO(srank(A)/ε²)個）を用いた再重み付けスキームを適用し、‖ADA* − AA*‖ ≤ ε‖A‖²を満たすようにする。
• Rudelsonの枠組みに、改善された行列近似をブラックボックスとして適用し、O(n)/ε²個の接触点を持つ凸体Hを構築する。
• Rudelsonの接触点数における対数的要因を、定理4.1を用いて安定ランクに基づく境界に置き換える。
• 新しい近似とGordonおよびGuédon-Meyerのガウス過程不等式を組み合わせることで、最適な同型Dvoretzky定理を達成する。

実験結果

リサーチクエスチョン

• RQ1 安定ランクに一致する部分行列サイズで、余分な対数的要因なしに行列近似が達成可能か？
• RQ2 作用素ノルム近似を保ちながら、等しい列重みを用いたスパarsificationが可能か？
• RQ3 任意の凸体をBanach-Mazur距離で1+ε以内に近似できる凸体として、最小で何個の接触点を持つことができるか？
• RQ4 次元の上限に余分な対数的要因が含まれない同型Dvoretzky定理を証明可能か？
• RQ5 Kadison-Singer問題の解を、凸幾何および行列近似問題に体系的に応用する方法は何か？

主な発見

• 本稿では、O(srank(A)/ε²)のサイズの部分行列を用いた行列近似を達成し、先行研究に見られる対数的要因を排除した。
• 等しい重みを用いたスパarsification結果が得られ、対角行列Dの非ゼロ要素がO(srank(A)/ε²)個であり、A = κ~Aのとき各要素がcε²‖A‖²/κ²に等しい。
• 任意のRⁿ内に存在する凸体Kに対して、H ⊂ K ⊂ (1+ε)Hを満たすような、Cn/ε²個以下の接触点を持つ凸体Hが存在することを示し、RudelsonとSrivastavaの結果の間にある長年のギャップを解消した。
• 本手法により、最適な同型Dvoretzky定理が得られ、任意のk ≤ cnに対して、Kのk次元断面が、ユークリッド球からの距離がC√(k / ln(1+n/k))未満であることを示した。対数的要因は含まれない。
• Rudelsonの結果を定理4.1に置き換える証明技法により、接触点数における対数的要因は、改善された行列近似を用いる際には不要であることが示された。
• 安定ランクが、近似における部分行列サイズの正しい指標であることが示され、行列作用の有効次元を的確に捉えている。