[论文解读] Near-optimal (euclidean) metric compression

Piotr Indyk, Tal Wagner|arXiv (Cornell University)|Jan 16, 2017

Computational Geometry and Mesh Generation被引用 7

一句话总结

本文提出了一种针对 l2 和 l1 范数且有界扩展 Φ 的近似最优度量压缩方案，将每个点的压缩大小减少至 O(ϵ⁻² log(1/ϵ) · log n + log log Φ) 位——显著优于经典的 Johnson-Lindenstrauss 边界。该方法通过新颖的降维与编码技术实现，且该边界被证明在 log(1/ϵ) 因子范围内是紧致的。

ABSTRACT

The metric sketching problem is defined as follows. Given a metric on n points, and ϵ > 0, we wish to produce a small size data structure (sketch) that, given any pair of point indices, recovers the distance between the points up to a 1 + ϵ distortion. In this paper we consider metrics induced by l2 and l1 norms whose spread (the ratio of the diameter to the closest pair distance) is bounded by Φ > 0. A well-known dimensionality reduction theorem due to Johnson and Lindenstrauss yields a sketch of size O(ϵ−2 log(Φn)n log n), i.e., O(ϵ−2 log(Φn)n log n) bits per point. We show that this bound is not optimal, and can be substantially improved to O(ϵ−2 log(1/ϵ) · log n + log log Φ) bits per point. Furthermore, we show that our bound is tight up to a factor of log(1/ϵ).We also consider sketching of general metrics and provide a sketch of size O(n log(1/ϵ) + log log Φ) bits per point, which we show is optimal.

研究动机与目标

• 改进 l2 和 l1 范数下度量压缩的经典 Johnson-Lindenstrauss 边界。
• 在保持 (1+ϵ)-失真条件下，减少具有有界扩展 Φ 的度量的压缩大小。
• 为范数诱导度量和一般度量建立压缩大小的紧致边界。
• 开发一种在实际与理论应用中均实现每个点近似最优性的方法。

提出的方法

• 利用针对具有有界扩展 Φ 的 l2 和 l1 范数量身定制的降维技术。
• 提出一种新颖的编码方案，通过 Φ 和 ϵ 的对数依赖关系实现压缩。
• 应用度量空间的分层分解以减少冗余并提升压缩效率。
• 使用具有受控失真的概率嵌入，以最小化压缩大小同时保持 (1+ϵ)-失真。
• 采用信息论论证建立下界，并证明边界在 log(1/ϵ) 因子范围内是紧致的。
• 通过统一框架将范数诱导度量的压缩与一般度量压缩相结合，实现更广泛的应用性。

实验结果

研究问题

• RQ1 能否在有界扩展 Φ 的前提下，改进 l2/l1 度量压缩的 Johnson-Lindenstrauss 边界（以每个点的位数衡量）？
• RQ2 在具有有界扩展的 l2 和 l1 度量中，(1+ϵ)-失真下的最优压缩大小是多少？
• RQ3 在一般度量压缩中，压缩大小如何随 ϵ 和 Φ 变化？
• RQ4 所提出的压缩大小边界是否在 ϵ 的对数因子范围内是紧致的？
• RQ5 统一方法能否在范数诱导度量和一般度量中均实现近似最优压缩？

主要发现

• l2 和 l1 度量的压缩大小被减少至每个点 O(ϵ⁻² log(1/ϵ) · log n + log log Φ) 位，优于经典的 O(ϵ⁻² log(Φn)n log n) 边界。
• 所提出的边界在 log(1/ϵ) 因子范围内是紧致的，证明了其近似最优性。
• 对于一般度量，压缩大小为每个点 O(n log(1/ϵ) + log log Φ) 位，已被证明是最优的。
• 该改进通过利用范数诱导度量的结构并结合精细编码技术实现。
• 结果表明，与先前方法相比，n 和 ϵ 的依赖关系可显著降低。
• 该框架提供了一种统一方法，在范数诱导度量和一般度量中均实现了近似最优性能。