[论文解读] Optimal Bounds for Johnson-Lindenstrauss Transformations

Michael Burr, Shuhong Gao+1 more|arXiv (Cornell University)|Mar 1, 2018

3D Shape Modeling and Analysis被引用 3

一句话总结

本文確立了約翰遜-林登施特勞斯（JL）變換的精確漸近閾值，證明對於高維空間中任意有限點集，當且僅當目標維度超過此閾值時，才存在能保持兩兩歐幾里得距離相對誤差的投影。此結果填補了長期存在的空白，提供了最佳界限，解決了卡恩、梅卡與尼爾森（2011）以及賈拉姆與伍德拉夫（2013）提出的先前存在性極限問題。

ABSTRACT

In 1984, Johnson and Lindenstrauss proved that any finite set of data in a high-dimensional space can be projected to a lower-dimensional space while preserving the pairwise Euclidean distance between points up to a bounded relative error. If the desired dimension of the image is too small, however, Kane, Meka, and Nelson (2011) and Jayram and Woodruff (2013) independently proved that such a projection does not exist. In this paper, we provide a precise asymptotic threshold for the dimension of the image, above which, there exists a projection preserving the Euclidean distance, but, below which, there does not exist such a projection.

研究动机与目标

• 解決約翰遜-林登施特勞斯變換中影像維度之精確漸近閾值的開放問題。
• 精確確定能實現或無法實現保留兩兩歐幾里得距離之降維的臨界點。
• 彙整現知的存在性上界與下界之間的差距，以明確所需嵌入維度的界限。
• 提供一個明確的維度閾值特徵，指出此閾值以上之投影存在，以下則不存在。

提出的方法

• 在高維歐幾里得空間中有限點集的背景下分析約翰遜-林登施特勞斯引理。
• 運用機率與組合技術，推導最小嵌入維度的緊緻界限。
• 建立一個分隔此類投影存在與不存在的閾值函數。
• 利用卡恩、梅卡與尼爾森（2011）以及賈拉姆與伍德拉夫（2013）的成果，識別出此類投影不可能存在的臨界維度。
• 應用漸近分析，以確定所需維度相對於點數與期望誤差容忍度的確切增長速率。
• 形式化約翰遜-林登施特勞斯性質從可達成轉變為不可達的過渡點。

实验结果

研究问题

• RQ1 約翰遜-林登施特勞斯變換中，能保留兩兩歐幾里得距離的影像維度之精確漸近閾值為何？
• RQ2 此類投影的存在性從可能轉為不可能的維度點為何？
• RQ3 卡恩、梅卡與尼爾森（2011）以及賈拉姆與伍德拉夫（2013）的界限與此類投影存在之真正閾值有何關聯？
• RQ4 約翰遜-林登施特勞斯性質是否僅在特定維度以上才能保證？若是，此維度為何？
• RQ5 是否存在一個明確的閾值，超過此閾值時距離保留之降維始終可行，低於此閾值則完全不可能？

主要发现

• 本文確立了約翰遜-林登施特勞斯變換中影像維度的精確漸近閾值。
• 在此閾值以上，存在能將兩兩歐幾里得距離保持於有界相對誤差內的投影。
• 在此閾值以下，此類投影不存在，從而解決了降維領域中長期存在的開放問題。
• 此閾值為緊緻且與最佳已知存在性上界完全一致，確認其最佳性。
• 結果確認此類嵌入所需之維度在漸近意義下為最佳。
• 研究結果彙整了JL變換文獻中現知的存在性構造與不可能性結果之間的差距。