[论文解读] Minimax manifold estimation

Christopher R. Genovese, Marco Perone-Pacifico+2 more|arXiv (Cornell University)|Jan 1, 2012

Topological and Geometric Data Analysis参考文献 17被引用 84

一句话总结

本文確立了在使用含噪樣本估計嵌入於 RD 中的 d 維流形 M 時的 minimax 收斂速率，顯示在 Hausdorff 距離下的最佳速率為 n^(-2/(2+d))。結果表明，在指定的正則性條件下，收斂速率僅取決於流形的內蘊維度 d，而不受周遭維度 D 的影響。

ABSTRACT

We find the minimax rate of convergence in Hausdorff distance for estimating a manifold M of dimension d embedded in RD given a noisy sample from the manifold. Under certain conditions, we show that the optimal rate of convergence is n-2/(2+d). Thus, the minimax rate depends only on the dimension of the manifold, not on the dimension of the space in which M is embedded.

研究动机与目标

• 確定從含噪樣本估計流形時的最優收斂速率。
• 分析收斂速率如何依賴於內蘊維度 d 與周遭維度 D。
• 在正則性條件下，建立 Hausdorff 距離估計的 minimax 下界與上界。
• 證明 minimax 速率僅由流形的維度 d 決定，而非由 D 決定。

提出的方法

• 使用資訊理論技術推導 Hausdorff 距離估計的 minimax 下界。
• 構造一個可達成所推導速率的 minimax 最優估計器。
• 對流形施加正則性條件，例如有界曲率與正到達距離（reach）。
• 分析真實流形與估計流形之間在 Hausdorff 距離下的估計誤差。
• 運用覆蓋與包裝論證來描述流形類別的複雜度。
• 證明在給定條件下，速率 n^(-2/(2+d)) 無法進一步改善。

实验结果

研究问题

• RQ1 從含噪樣本在 Hausdorff 距離下估計 d 維流形時，minimax 收斂速率為何？
• RQ2 收斂速率如何依賴於內蘊維度 d 與周遭維度 D？
• RQ3 在流形的正則性條件下，速率 n^(-2/(2+d)) 是否無法再改善？
• RQ4 在這些條件下，能否由實際可用的估計器達成 minimax 速率？

主要发现

• 在 Hausdorff 距離下，d 維流形的 minimax 收斂速率為 n^(-2/(2+d))。
• 該速率僅取決於內蘊維度 d，與周遭維度 D 無關。
• 在指定的正則性條件下，該速率無法再改善。
• 該結果適用於具有有界曲率與正到達距離的流形。
• 在相同條件下，minimax 速率可由一致估計器達成。
• 分析顯示，當 d 固定時，高維的周遭維度 D 不會妨礙估計。