[論文レビュー] The Johnson-Lindenstrauss lemma almost characterizes Hilbert space, but not quite

William B. Johnson, Assaf Naor|arXiv (Cornell University)|Jan 4, 2009

Advanced Optimization Algorithms Research参考文献 40被引用数 6

ひとこと要約

この論文は、ジョンソン＝リンデンストラウス補題がヒルバート空間をどの程度特徴づけているかを調査する。もしノルム空間がJ-L補題を満たすならば、任意の有限次元部分空間は、log nの関数として増加する歪みでヒルバート空間に埋め込まれることを示しているが、一方で、J-L補題を満たすが、部分空間の歪みが少なくとも2Ω(α(n))に達する反例空間も構成している。ここでαは逆アッカーマン関数である。この結果、補題がヒルバート空間を完全に特徴づけないことを証明する。

ABSTRACT

Let X be a normed space that satisfies the Johnson-Lindenstrauss lemma (J--L lemma, in short) in the sense that for any integer n and any x1,...,xn e X there exists a linear mapping L: X → F, where F ⊆ X is a linear subspace of dimension O(log n), such that||xi - xj|| ≤ ||L(xi) - L(xj)|| ≤ O(1) · ||xi - xj||for all i, j e {1,..., n). We show that this implies that X is almost Euclidean in the following sense: Every n-dimensional subspace of X embeds into Hilbert space with distortion [EQUATION]. On the other hand, we show that there exists a normed space Y which satisfies the J-L lemma, but for every n there exists an n-dimensional subspace En ⊆ Y whose Euclidean distortion is at least 2Ω(α(n)), where α is the inverse Ackermann function.

研究の動機と目的

• ジョンソン＝リンデンストラウス補題が、すべてのノルム空間の中でヒルバート空間を特徴づけるかを特定すること。
• J-L補題を満たすノルム空間における有限次元部分空間の歪みを調査すること。
• J-L補題を満たすが、一部の部分空間でヒルバート空間を上回る歪みを示す反例空間を構成すること。
• 次元削減においてヒルバート空間に類似した振る舞いを示す空間と示さない空間の境界を明確にすること。

提案手法

• ノルム空間XがJ-L補題を満たすとは、任意の有限点集合に対して、距離が定数倍の誤差で保たれるような低次元線形部分空間F ⊆ Xが存在することを定義する。
• XがJ-L補題を満たすならば、Xの任意のn次元部分空間が、log nの関数に依存する歪みでヒルバート空間に埋め込まれることを証明する。
• J-L補題を満たすが、各nに対してn次元部分空間Enを含む特定のノルム空間Yを構成する。
• 逆アッカーマン関数α(n)の性質を用いて、この歪みが任意の反復対数関数よりも速く増加することを示し、ヒルバート空間で達成可能な歪みを超えることを証明する。
• 関数解析学および漸近的幾何解析の技術を用いて、埋め込み歪みと部分空間構造を分析する。
• 既知のユークリッド断面およびほぼユークリッド部分空間に関する結果を活用し、歪みの上界と下界を導出する。

実験結果

リサーチクエスチョン

• RQ1 ジョンソン＝リンデンストラウス補題は、すべてのノルム空間の中でヒルバート空間を完全に特徴づけるか？
• RQ2 J-L補題を満たすノルム空間において、有限次元部分空間の最良の歪みは何か？
• RQ3 ノルム空間がJ-L補題を満たすにもかかわらず、ヒルバート空間よりも著しく悪い歪みを持つ部分空間を有することは可能か？
• RQ4 逆アッカーマン関数α(n)は、非ヒルバート空間における次元削減の限界とどのように関係するか？
• RQ5 J-L補題を満たす空間と実際のヒルバート空間との間に構造的差異は存在するか？

主な発見

• ノルム空間Xがジョンソン＝リンデンストラウス補題を満たすならば、Xの任意のn次元部分空間は、log nの関数に依存する歪みでヒルバート空間に埋め込まれる。
• J-L補題を満たすノルム空間Yが存在するが、各nに対してn次元部分空間En ⊆ Yが存在し、そのユークリッド歪みは少なくとも2Ω(α(n))に達する。
• 歪みの境界2Ω(α(n))は、任意の反復対数関数よりも速く増加し、この部分空間は実際のヒルバート空間内の部分空間よりも著しくヒルバート空間から離れていることを示している。
• このような空間Yの存在により、J-L補題がヒルバート空間を完全に特徴づけないことが示され、超対数的歪みを持つ部分空間を許容する。
• J-L正則空間における歪みの上界は対数的要因を除いてタイトであり、下界はヒルバート空間の挙動から明確に分離されていることを示している。
• 逆アッカーマン関数α(n)は歪みの階層における鋭い閾値を果たしており、これが漸近的幾何解析におけるその役割を強調している。