[論文レビュー] Near-optimal (euclidean) metric compression

Piotr Indyk, Tal Wagner|arXiv (Cornell University)|Jan 16, 2017

Computational Geometry and Mesh Generation被引用数 7

ひとこと要約

本稿では、スパンΦが有界なl2およびl1ノルムに対して、近似的に最適なメトリックスケッチ方式を提示する。ポイント1つあたりのスケッチサイズをO(ϵ⁻² log(1/ϵ) · log n + log log Φ)ビットに削減し、古典的なJohnson-Lindenstraussの境界を著しく改善する。この手法は、新たな次元削減および符号化技術を用いて達成され、境界はlog(1/ϵ)要因の違いを除き、タイトであることが示されている。

ABSTRACT

The metric sketching problem is defined as follows. Given a metric on n points, and ϵ > 0, we wish to produce a small size data structure (sketch) that, given any pair of point indices, recovers the distance between the points up to a 1 + ϵ distortion. In this paper we consider metrics induced by l2 and l1 norms whose spread (the ratio of the diameter to the closest pair distance) is bounded by Φ > 0. A well-known dimensionality reduction theorem due to Johnson and Lindenstrauss yields a sketch of size O(ϵ−2 log(Φn)n log n), i.e., O(ϵ−2 log(Φn)n log n) bits per point. We show that this bound is not optimal, and can be substantially improved to O(ϵ−2 log(1/ϵ) · log n + log log Φ) bits per point. Furthermore, we show that our bound is tight up to a factor of log(1/ϵ).We also consider sketching of general metrics and provide a sketch of size O(n log(1/ϵ) + log log Φ) bits per point, which we show is optimal.

研究の動機と目的

• l2およびl1ノルムにおけるメトリックスケッチの古典的Johnson-Lindenstrauss境界を、ポイント1つあたりのビット数の観点から改善すること。
• スプレッドΦが有界なメトリクスにおいて、(1+ϵ)-歪みを維持したままスケッチサイズを削減すること。
• ノルム誘導メトリクスおよび一般メトリクスの両方におけるスケッチサイズのタイトな境界を確立すること。
• 実用的および理論的応用において、ポイント1つあたりのビット数で近似的に最適性を達成する手法を開発すること。

提案手法

• スプレッドΦが有界なl2およびl1ノルムに特化した次元削減技術を活用する。
• Φおよびϵに対数的依存性を示す新しい符号化方式を導入し、スケッチを圧縮する。
• 冗長性を低減し圧縮を向上させるために、メトリクス空間の階層的分解を適用する。
• 歪みを制御した確率的埋め込みを用いて、スケッチサイズを最小限に抑えつつ(1+ϵ)-歪みを保持する。
• 情報理論的議論を用いて下界を確立し、ϵの対数要因の違いを除きタイト性を証明する。
• ノルム誘導メトリクスのスケッチと一般メトリクススケッチを統合したフレームワークを用い、より広範な適用可能性を実現する。

実験結果

リサーチクエスチョン

• RQ1 スプレッドΦが有界な場合に、l2/l1メトリックスケッチにおけるJohnson-Lindenstrauss境界を、ポイント1つあたりのビット数の観点から改善可能か？
• RQ2 スプレッドが有界なl2およびl1メトリクスにおいて、(1+ϵ)-歪みのための最適なスケッチサイズは何か？
• RQ3 一般メトリクススケッチにおいて、スケッチサイズはϵおよびΦの関数としてどのようにスケーリングされるか？
• RQ4 提案されたスケッチサイズの境界は、ϵの対数要因の違いを除きタイトか？
• RQ5 統一されたアプローチにより、ノルム誘導メトリクスおよび一般メトリクスの両方で近似的に最適なスケッチが達成可能か？

主な発見

• l2およびl1メトリクスのスケッチサイズは、O(ϵ⁻² log(1/ϵ) · log n + log log Φ)ビット/ポイントに削減され、古典的なO(ϵ⁻² log(Φn)n log n)の境界を改善した。
• 提案された境界は、log(1/ϵ)要因の違いを除きタイトであり、近似的に最適性が確立された。
• 一般メトリクスにおいては、スケッチサイズはO(n log(1/ϵ) + log log Φ)ビット/ポイントであり、これが最適であることが証明された。
• ノルム誘導メトリクスの構造を活用し、洗練された符号化技術を用いることで、この改善が達成された。
• 従来の手法と比較して、nおよびϵに依存する部分を著しく削減できることが実証された。
• フレームワークは、ノルム誘導メトリクスおよび一般メトリクスの両方で近似的に最適な性能を達成する統合的アプローチを提供する。