[论文解读] A Chasm Between Identity and Equivalence Testing with Conditional Queries

Jayadev Acharya, Clément L. Canonne+1 more|arXiv (Cornell University)|Nov 26, 2014

Machine Learning and Algorithms参考文献 28被引用 9

一句话总结

本文在条件采样模型中建立了身份测试与等价性测试之间的根本性分离，证明等价性测试需要 Ω(√log log n) 次查询——这与身份测试的常数级查询复杂度形成鲜明对比。此外，本文还为均匀性测试和支持集大小估计提供了紧致的界，解决了非自适应算法与查询复杂度权衡方面的开放问题。

ABSTRACT

A recent model for property testing of probability distributions (Chakraborty et al., ITCS 2013, Canonne et al., SICOMP 2015) enables tremendous savings in the sample complexity of testing algorithms, by allowing them to condition the sampling on subsets of the domain. In particular, Canonne, Ron, and Servedio (SICOMP 2015) showed that, in this setting, testing identity of an unknown distribution $D$ (whether $D=D^\ast$ for an explicitly known $D^\ast$) can be done with a constant number of queries, independent of the support size $n$ -- in contrast to the required $Ω(\sqrt{n})$ in the standard sampling model. It was unclear whether the same stark contrast exists for the case of testing equivalence, where both distributions are unknown. While Canonne et al. established a $\mathrm{poly}(\log n)$-query upper bound for equivalence testing, very recently brought down to $ ilde O(\log\log n)$ by Falahatgar et al. (COLT 2015), whether a dependence on the domain size $n$ is necessary was still open, and explicitly posed by Fischer at the Bertinoro Workshop on Sublinear Algorithms (2014). We show that any testing algorithm for equivalence must make $Ω(\sqrt{\log\log n})$ queries in the conditional sampling model. This demonstrates a gap between identity and equivalence testing, absent in the standard sampling model (where both problems have sampling complexity $n^{Θ(1)}$). We also obtain results on the query complexity of uniformity testing and support-size estimation with conditional samples. We answer a question of Chakraborty et al. (ITCS 2013) showing that non-adaptive uniformity testing indeed requires $Ω(\log n)$ queries in the conditional model. For the related problem of support-size estimation, we provide both adaptive and non-adaptive algorithms, with query complexities $\mathrm{poly}(\log\log n)$ and $\mathrm{poly}(\log n)$, respectively.

研究动机与目标

• 为 Fischer（2014）提出的问题提供解答：在条件采样模型中，等价性测试是否依赖于域大小 n？
• 确定条件采样模型中非自适应均匀性测试的精确查询复杂度。
• 在自适应与非自适应查询模型下，为支持集大小估计建立紧致的上下界。
• 阐明条件采样框架中身份测试与等价性测试之间查询复杂度的本质差异。

提出的方法

• 通过精心构造的分布族与条件采样行为的概率分析，证明等价性测试的查询下界为 Ω(√log log n)。
• 采用一种新颖的约化方法，将一种变体的均匀性测试问题约化为非自适应均匀性测试，从而建立其查询下界为 Ω(log n)。
• 设计一种自适应算法，通过在候选支持集大小上进行双重指数搜索，实现 poly(log log n) 的查询复杂度。
• 设计一种非自适应算法，基于子集的随机采样与每次采样上的均匀性测试，实现 poly(log n) 的查询复杂度。
• 将 Chakraborty 等人（2013）的测试器作为非自适应条件分布均匀性测试的子程序。
• 在所有算法中，通过重复试验的阈值处理与多数投票机制，提升正确性概率。

实验结果

研究问题

• RQ1 在条件采样模型中，等价性测试是否存在超常数的查询复杂度下界？
• RQ2 在条件采样模型中，非自适应均匀性测试是否需要 Ω(log n) 次查询？
• RQ3 在自适应模型中，支持集大小估计能否在 poly(log log n) 次查询内完成？
• RQ4 支持集大小估计的最优非自适应查询复杂度是多少？
• RQ5 在条件采样模型中，身份测试与等价性测试的查询复杂度如何比较？

主要发现

• 在条件采样模型中，等价性测试需要 Ω(√log log n) 次查询，建立了超常数下界，并在身份测试与等价性测试之间形成显著差距。
• 非自适应均匀性测试需要 Ω(log n) 次查询，解决了开放问题，并将先前的 Ω(log log n) 下界实现了指数级改进。
• 一种自适应支持集大小估计算法实现了 poly(log log n) 的查询复杂度，与目前已知的最佳上界在对数因子内一致。
• 一种非自适应支持集大小估计算法实现了 poly(log n) 的查询复杂度，该复杂度在多项式因子内为最优。
• 为非自适应支持集大小估计建立了 Ω(log n) 的定性紧致下界。
• 本文展示了在条件模型中身份测试与等价性测试之间存在严格分离：身份测试为常数查询，而等价性测试需要超常数查询。