[論文レビュー] A Near-Linear Time Algorithm for the Chamfer Distance

Ainesh Bakshi, Piotr Indyk+3 more|arXiv (Cornell University)|Jul 6, 2023

Data Management and Algorithms被引用数 4

ひとこと要約

本稿では、重要度サンプリングと局所性に敏感なハッシュ（LSH）を用いて、近似線形時間計算量 $ olimits\mathcal{O}(nd\log n/\varepsilon^2)$ を達成する、初の $(1+\varepsilon)$-近似アルゴリズムを提示する。このアルゴリズムは、大規模かつ高次元のデータセットにおいて高い精度と高速性を実現し、標準的な複雑性仮定の下で正確なマッピングを報告することはおそらく二次関数的時間より難しいことを示している。

ABSTRACT

For any two point sets $A,B \subset \mathbb{R}^d$ of size up to $n$, the Chamfer distance from $A$ to $B$ is defined as $ ext{CH}(A,B)=\sum_{a \in A} \min_{b \in B} d_X(a,b)$, where $d_X$ is the underlying distance measure (e.g., the Euclidean or Manhattan distance). The Chamfer distance is a popular measure of dissimilarity between point clouds, used in many machine learning, computer vision, and graphics applications, and admits a straightforward $O(d n^2)$-time brute force algorithm. Further, the Chamfer distance is often used as a proxy for the more computationally demanding Earth-Mover (Optimal Transport) Distance. However, the \emph{quadratic} dependence on $n$ in the running time makes the naive approach intractable for large datasets. We overcome this bottleneck and present the first $(1+ε)$-approximate algorithm for estimating the Chamfer distance with a near-linear running time. Specifically, our algorithm runs in time $O(nd \log (n)/\varepsilon^2)$ and is implementable. Our experiments demonstrate that it is both accurate and fast on large high-dimensional datasets. We believe that our algorithm will open new avenues for analyzing large high-dimensional point clouds. We also give evidence that if the goal is to \emph{report} a $(1+\varepsilon)$-approximate mapping from $A$ to $B$ (as opposed to just its value), then any sub-quadratic time algorithm is unlikely to exist.

研究の動機と目的

• 標準的なChamfer距離計算の二次時間ボトルネックを克服し、大規模な点群においてその利用を可能にする。
• 近線形時間内で $1+\varepsilon$ 要因以内にChamfer距離を近似する実用的で効率的なアルゴリズムを設計する。
• 複雑性理論的仮定の下で、Chamfer距離の推定が対応するマッピングを報告することよりも著しく簡単であることを示す。
• 実データおよび合成データセット、特にBig-ANN-Benchmarksのような大規模ベンチマークを用いてアルゴリズムの性能を評価する。

提案手法

• 各点 $A$ からの最小距離を推定するために重要度サンプリングを用い、サンプリング確率を期待最小距離の逆数に比例させる。
• $\ell_1$ および $\ell_2$ ノルム下での効率的な近似最近傍検索のために局所性に敏感なハッシュ（LSH）を活用する。
• 確率的サンプリングと集中不等式を組み合わせることで、$99\%$ の確率で $(1+\varepsilon)$-近似を保証する。
• 階層的LSHデータ構造を用いてアルゴリズムを実装し、性能はLSHパラメータと下位の距離空間に依存する。
• 理論的解析により、1点あたりの期待サンプル数は $\mathcal{O}(1/\varepsilon^2)$ であり、合計時間は $\mathcal{O}(nd\log n/\varepsilon^2)$ となることが示された。
• ハッキングセット予想を用いて条件付き下界を導出し、$(1+\varepsilon)$-近似マッピングを報告する任意のアルゴリズムは $\Omega(n^{2-\delta})$ 時間を要する必要があることが示された。

(a) ShapeNet

実験結果

リサーチクエスチョン

• RQ1 大規模かつ高次元の点群において、Chamfer距離を近似線形時間で $1+\varepsilon$ 要因以内に推定できるか？
• RQ2 ブルートフォース法や一様サンプリングよりも優れた、実用的で効率的なChamfer距離推定アルゴリズムを設計できるか？
• RQ3 なぜChamfer距離の値の推定は、対応する近似マッピングを報告することよりも著しく簡単なのか？
• RQ4 $(1+\varepsilon)$-近似マッピングを $A$ から $B$ に報告するための実行時間の理論的限界は何か？

主な発見

• 提案されたアルゴリズムは $\mathcal{O}(nd\log n/\varepsilon^2)$ 時間で実行され、$\ell_1$ および $\ell_2$ ノルムにおいて $99\%$ の確率で $1\pm\varepsilon$ 要因以内にChamfer距離を推定する。
• Big-ANN-Benchmarksの100億スケールデータセットでは、最適化されたブルートフォース法よりも最大50倍高速に実行される。
• ブルートフォース法（KDツリーを含む）よりも5倍以上高速であり、分散が大きいデータセットでは一様サンプリングよりも5〜10倍のサンプル効率が向上する。
• ShapeNetデータセットでは、最近傍探索において30位以内の再現率が98％以上に達し、ブルートフォース法と比較して探索空間を1000倍以上削減した。
• ハッキングセット予想の下では、任意の$(1+\varepsilon)$-近似マッピングを報告するアルゴリズムは、$d=\Theta(\log^2 n)$ および $\varepsilon=\Theta(1)/d$ でさえも $\Omega(n^{2-\delta})$ 時間を要する。
• 本アルゴリズムはデータセット間での距離の分散に適応でき、$A$ から $B$ への距離が著しく変動する場合、一様サンプリングを上回る性能を発揮する。

(b) Federalist Papers