[論文レビュー] A Chasm Between Identity and Equivalence Testing with Conditional Queries

Jayadev Acharya, Clément L. Canonne+1 more|arXiv (Cornell University)|Nov 26, 2014

Machine Learning and Algorithms参考文献 28被引用数 9

ひとこと要約

この論文は、条件付きサンプリングモデルにおける同一性テストと同値性テストの根本的な分離を確立し、同値性テストが Ω(√log log n) のクエリを必要とすることを証明している。これは同一性テストの定数クエリ複雑度とは対照的である。また、一様性テストとサポートサイズ推定についてもタイトな境界を提供し、非適応的アルゴリズムおよびクエリ複雑度のトレードオフに関する未解決の問題を解決している。

ABSTRACT

A recent model for property testing of probability distributions (Chakraborty et al., ITCS 2013, Canonne et al., SICOMP 2015) enables tremendous savings in the sample complexity of testing algorithms, by allowing them to condition the sampling on subsets of the domain. In particular, Canonne, Ron, and Servedio (SICOMP 2015) showed that, in this setting, testing identity of an unknown distribution $D$ (whether $D=D^\ast$ for an explicitly known $D^\ast$) can be done with a constant number of queries, independent of the support size $n$ -- in contrast to the required $Ω(\sqrt{n})$ in the standard sampling model. It was unclear whether the same stark contrast exists for the case of testing equivalence, where both distributions are unknown. While Canonne et al. established a $\mathrm{poly}(\log n)$-query upper bound for equivalence testing, very recently brought down to $ ilde O(\log\log n)$ by Falahatgar et al. (COLT 2015), whether a dependence on the domain size $n$ is necessary was still open, and explicitly posed by Fischer at the Bertinoro Workshop on Sublinear Algorithms (2014). We show that any testing algorithm for equivalence must make $Ω(\sqrt{\log\log n})$ queries in the conditional sampling model. This demonstrates a gap between identity and equivalence testing, absent in the standard sampling model (where both problems have sampling complexity $n^{Θ(1)}$). We also obtain results on the query complexity of uniformity testing and support-size estimation with conditional samples. We answer a question of Chakraborty et al. (ITCS 2013) showing that non-adaptive uniformity testing indeed requires $Ω(\log n)$ queries in the conditional model. For the related problem of support-size estimation, we provide both adaptive and non-adaptive algorithms, with query complexities $\mathrm{poly}(\log\log n)$ and $\mathrm{poly}(\log n)$, respectively.

研究の動機と目的

• フィッシャー（2014）が提起した、条件付きサンプリングモデルにおける同値性テストがドメインサイズ n に依存するかどうかという未解決の問題を解消すること。
• 条件付きサンプリングモデルにおける非適応的一様性テストの正確なクエリ複雑度を特定すること。
• 適応的および非適応的クエリモデルの両方において、サポートサイズ推定のタイトな上界および下界を確立すること。
• 条件付きサンプリング枠組みにおける同一性テストと同値性テストのクエリ複雑度の本質的な違いを明確にすること。

提案手法

• 適切に構築された分布族と条件付きサンプリングの挙動に関する確率的解析を用いて、同値性テストに対する Ω(√log log n) の下界を証明する。
• 一様性テスト問題の変種への新しい還元を用いて、非適応的一様性テストに対する Ω(log n) の下界を確立する。
• 候補となるサポートサイズの二重指数的探索を用いて、poly(log log n) のクエリ複雑度を持つ適応的アルゴリズムを設計する。
• 各サブセットのランダムサンプリングと各サブセットにおける一様性テストに基づいて、poly(log n) のクエリ複雑度を持つ非適応的アルゴリズムを設計する。
• 非適応的一様性テストにおける条件付き分布に対して、Chakraborty ら（2013）のテストをサブルーチンとして用いる。
• すべてのアルゴリズムにおいて、正しさの確率を強化するために、しきい値処理と多数決投票を繰り返しの試行に適用する。

実験結果

リサーチクエスチョン

• RQ1 条件付きサンプリングモデルにおける同値性テストには、超定数のクエリ複雑度下界が存在するか？
• RQ2 非適応的一様性テストは、条件付きサンプリングモデルにおいて Ω(log n) のクエリを必要とするか？
• RQ3 適応的モデルにおいて、サポートサイズ推定を poly(log log n) のクエリで行うことができるか？
• RQ4 サポートサイズ推定の最適な非適応的クエリ複雑度は何か？
• RQ5 条件付きサンプリングモデルにおいて、同一性テストと同値性テストのクエリ複雑度はどのように比較されるか？

主な発見

• 条件付きサンプリングモデルにおける同値性テストは Ω(√log log n) のクエリを必要とし、超定数の下界を確立するとともに、同一性テストと同値性テストの間の断絶的なギャップを示している。
• 非適応的一様性テストは Ω(log n) のクエリを必要とし、未解決の問題を解決するとともに、以前の Ω(log log n) の下界に比べて指数的改善を達成している。
• 適応的アルゴリズムによるサポートサイズ推定は poly(log log n) のクエリ複雑度を達成しており、対数的要因を除いて既知の最良上界と一致している。
• 非適応的アルゴリズムによるサポートサイズ推定は poly(log n) のクエリ複雑度を達成しており、多項式的要因を除いて最適である。
• 非適応的サポートサイズ推定に対する質的タイトな下界 Ω(log n) の条件付きクエリが確立された。
• 本論文は、条件付きモデルにおける同一性テストと同値性テストの明確な分離を示している：同一性テストは定数クエリで可能であるが、同値性テストは超定数クエリを必要とする。