[论文解读] On the Sensitivity of Shape Fitting Problems

Kasturi Varadarajan, Xin Xiao|arXiv (Cornell University)|Sep 21, 2012

Industrial Vision Systems and Defect Detection参考文献 1被引用 15

一句话总结

该论文为 $(j,k)$-投影聚类问题（包括 $k$-中位/均值、$k$-线聚类和 $j$-子空间逼近）建立了与维度无关的总敏感度上界。通过利用维度约简和敏感度分析，推导出大小为 $O(j^{3+z}d heta^{-2})$ 的 $ heta$-核集合，其中 $z \in [1,2)$，显著简化了先前的结果，并将核集合构造推广至高维整数网格实例。

ABSTRACT

In this article, we study shape fitting problems, $ε$-coresets, and total sensitivity. We focus on the $(j,k)$-projective clustering problems, including $k$-median/$k$-means, $k$-line clustering, $j$-subspace approximation, and the integer $(j,k)$-projective clustering problem. We derive upper bounds of total sensitivities for these problems, and obtain $ε$-coresets using these upper bounds. Using a dimension-reduction type argument, we are able to greatly simplify earlier results on total sensitivity for the $k$-median/$k$-means clustering problems, and obtain positively-weighted $ε$-coresets for several variants of the $(j,k)$-projective clustering problem. We also extend an earlier result on $ε$-coresets for the integer $(j,k)$-projective clustering problem in fixed dimension to the case of high dimension.

研究动机与目标

• 分析形状拟合问题中点的敏感度，特别是针对 $(j,k)$-投影聚类问题。
• 为 $j$-子空间拟合及相关问题推导出与维度无关的总敏感度上界。
• 为 $k$-中位/均值和整数 $(j,k)$-投影聚类构造小型、正权重的 $\epsilon$-核集合。
• 通过基于敏感度的采样和维度约简技术，简化并推广先前的核集合构造方法。
• 将核集合结果扩展至坐标多项式有界的高维整数网格点集。

提出的方法

• 使用维度约简论证，通过将点投影到由最优 $k$-元组的 $j$-平面张成的低维子空间上来界定总敏感度。
• 应用敏感度分析以界定 $\sigma_P(p) = \sup_{F \in \mathcal{F}} \text{dist}(p,F)/\text{dist}(P,F)$，从而得到总敏感度 $\mathfrak{S}_P$。
• 通过定理 3.2 和推论 6.6 推导出与维度无关的敏感度边界，表明当 $1 \leq z < 2$ 时 $\mathfrak{S}_P = O(j^{1+z/2})$，当 $z=2$ 时 $\mathfrak{S}_P = O(j)$，当 $z>2$ 时 $\mathfrak{S}_P = O(j^z)$。
• 通过按敏感度成比例采样点来构造 $\epsilon$-核集合，并利用定理 2.4 中的核集合大小边界。
• 通过将投影坐标四舍五入为整数来处理整数 $(j,k)$-投影聚类，同时将敏感度边界保持在常数因子范围内。
• 利用投影点集位于 $O(jk)$-维子空间中的事实，推导出整数网格实例的 $\mathfrak{S}_P = O((\log n)^{f(k,j)})$。

实验结果

研究问题

• RQ1 在 $j$ 和 $z$ 的表达下，$j$-子空间拟合的总敏感度的紧致上界是什么？
• RQ2 能否通过维度约简为 $k$-中位/均值和 $k$-线聚类推导出与维度无关的敏感度边界？
• RQ3 对于高维中整数 $(j,k)$-投影聚类，$\epsilon$-核集合的大小是多少？
• RQ4 在核集合大小和对 $d$ 的依赖性方面，基于敏感度的采样与先前的核集合构造方法相比如何？
• RQ5 在高维设置下，对于固定的 $j$ 和 $k$，能否独立于 $d$ 有界总敏感度？

主要发现

• 对于 $j$-子空间拟合，当 $1 \leq z < 2$ 时总敏感度为 $O(j^{1+z/2})$，当 $z=2$ 时为 $O(j)$，当 $z>2$ 时为 $O(j^z)$，且与维度 $d$ 无关。
• 当 $z \in [1,2)$ 时，$j$-子空间拟合存在大小为 $O(j^{3+z}d\epsilon^{-2})$ 的 $\epsilon$-核集合，相比先前结果去除了敏感度中显式的 $d$-依赖性。
• 当 $z=2$ 时，核集合大小为 $O(j^3 d \epsilon^{-2})$，与已知的 $j=d-1$ 和 $z=2$ 的边界一致。
• 对于坐标位于 $[-n^c, n^c]^d$ 中的整数 $(j,k)$-投影聚类，总敏感度为 $O((\log n)^{f(k,j)})$，其中 $f(k,j)$ 仅依赖于 $k$ 和 $j$。
• 在高维中，整数 $(j,k)$-投影聚类存在大小为 $O((\log n)^{2f(k,j)} k j d \epsilon^{-2})$ 的 $\epsilon$-核集合。
• 该方法通过将问题简化为低维投影上的敏感度分析，显著简化了 $k$-中位/均值的先前核集合构造。