[論文レビュー] Optimal Bounds for Johnson-Lindenstrauss Transformations

Michael Burr, Shuhong Gao+1 more|arXiv (Cornell University)|Mar 1, 2018

3D Shape Modeling and Analysis被引用数 3

ひとこと要約

この論文は、ジョンソン＝レンデンストローム（JL）変換の次元の正確な漸近的閾値を確立し、高次元空間内の任意の有限点集合に対して、相対誤差を許容する範囲で対応するユークリッド距離を保存する射影が存在するための必要十分条件が、この閾値を超える場合に限ることを証明している。この結果により、カーン、メーカ、ネルソン（2011年）およびジェイラムとウッズラフ（2013年）の先行研究における存在的上限と下限の間隔が埋められ、最適な境界が得られた。

ABSTRACT

In 1984, Johnson and Lindenstrauss proved that any finite set of data in a high-dimensional space can be projected to a lower-dimensional space while preserving the pairwise Euclidean distance between points up to a bounded relative error. If the desired dimension of the image is too small, however, Kane, Meka, and Nelson (2011) and Jayram and Woodruff (2013) independently proved that such a projection does not exist. In this paper, we provide a precise asymptotic threshold for the dimension of the image, above which, there exists a projection preserving the Euclidean distance, but, below which, there does not exist such a projection.

研究の動機と目的

• ジョンソン＝レンデンストローム変換における画像次元の正確な漸近的閾値を解明すること。
• 対応するユークリッド距離を保存する次元削減が可能または不可能となる正確な点を特定すること。
• 必要な埋め込み次元に関する既知の存在的上界と下界の間隔を埋めること。
• このような射影が存在するか否かの境目を明確に特定する次元の閾値を特徴づけること。

提案手法

• 高次元ユークリッド空間内の有限点集合の文脈においてジョンソン＝レンデンストロームの補題を分析すること。
• 確率論的および組合せ的技法を用いて、最小埋め込み次元に対するタイトな境界を導出すること。
• このような射影の存在と非存在を分ける閾値関数を確立すること。
• カーン、メーカ、ネルソン（2011年）およびジェイラムとウッズラフ（2013年）の結果を活用し、このような射影が存在できない臨界次元を同定すること。
• 漸近的解析を用いて、必要な次元の成長率が点数および所望の誤差許容範囲に対してどのように変化するかを特定すること。
• ジョンソン＝レンデンストローム性が達成可能から達成不能に移行する転換点を形式化すること。

実験結果

リサーチクエスチョン

• RQ1 ジョンソン＝レンデンストローム変換において、対応するユークリッド距離を保存する画像次元の正確な漸近的閾値は何か？
• RQ2 このような射影の存在が可能から不可能に移行する次元は何か？
• RQ3 カーン、メーカ、ネルソン（2011年）およびジェイラムとウッズラフ（2013年）の境界は、存在の真の閾値とどのように関係しているか？
• RQ4 ジョンソン＝レンデンストローム性は、特定の次元を超えるとのみ保証されるのか？ もしそうなら、その次元は何か？
• RQ5 距離を保存する次元削減が常に可能となる明確な閾値が存在するのか？ その閾値より下では不可能なのか？

主な発見

• この論文は、ジョンソン＝レンデンストローム変換における画像次元の正確な漸近的閾値を確立している。
• この閾値を超えると、相対誤差が有界な範囲で対応するユークリッド距離を保存する射影が存在する。
• この閾値未満では、このような射影は存在せず、次元削減分野における長年の未解決問題が解消された。
• 閾値はタイトであり、既存の最良の存在的上界と一致し、最適性が確認された。
• この結果により、このような埋め込みに必要な次元が漸近的に最適であることが裏付けられた。
• 研究結果により、JL変換の文脈における既知の存在的構成と不可能性の結果の間隔が埋まった。