[논문 리뷰] A Chasm Between Identity and Equivalence Testing with Conditional Queries

Jayadev Acharya, Clément L. Canonne외 1명|arXiv (Cornell University)|2014. 11. 26.

Machine Learning and Algorithms참고 문헌 28인용 수 9

한 줄 요약

이 논문은 조건부 샘플링 모델에서 신원 테스팅과 동치성 테스팅 간의 근본적인 분리를 확립하며, 동치성 테스팅이 Ω(√log log n) 쿼리를 요구함을 증명한다—이는 신원 테스팅의 상수 쿼리 복잡도와 뚜렷하게 대비된다. 또한 균일성 테스팅과 서포트 크기 추정에 대해 날카로운 경계를 제공하여 비적응형 알고리즘과 쿼리 복잡도 트레이드오프에 대한 열린 질문을 해결한다.

ABSTRACT

A recent model for property testing of probability distributions (Chakraborty et al., ITCS 2013, Canonne et al., SICOMP 2015) enables tremendous savings in the sample complexity of testing algorithms, by allowing them to condition the sampling on subsets of the domain. In particular, Canonne, Ron, and Servedio (SICOMP 2015) showed that, in this setting, testing identity of an unknown distribution $D$ (whether $D=D^\ast$ for an explicitly known $D^\ast$) can be done with a constant number of queries, independent of the support size $n$ -- in contrast to the required $Ω(\sqrt{n})$ in the standard sampling model. It was unclear whether the same stark contrast exists for the case of testing equivalence, where both distributions are unknown. While Canonne et al. established a $\mathrm{poly}(\log n)$-query upper bound for equivalence testing, very recently brought down to $ ilde O(\log\log n)$ by Falahatgar et al. (COLT 2015), whether a dependence on the domain size $n$ is necessary was still open, and explicitly posed by Fischer at the Bertinoro Workshop on Sublinear Algorithms (2014). We show that any testing algorithm for equivalence must make $Ω(\sqrt{\log\log n})$ queries in the conditional sampling model. This demonstrates a gap between identity and equivalence testing, absent in the standard sampling model (where both problems have sampling complexity $n^{Θ(1)}$). We also obtain results on the query complexity of uniformity testing and support-size estimation with conditional samples. We answer a question of Chakraborty et al. (ITCS 2013) showing that non-adaptive uniformity testing indeed requires $Ω(\log n)$ queries in the conditional model. For the related problem of support-size estimation, we provide both adaptive and non-adaptive algorithms, with query complexities $\mathrm{poly}(\log\log n)$ and $\mathrm{poly}(\log n)$, respectively.

연구 동기 및 목표

• 피셔(2014)가 제기한 열린 질문인 조건부 샘플링 모델에서 동치성 테스팅이 도메인 크기 n에 의존하는지 여부를 해결하기 위해.
• 조건부 샘플링 모델에서 비적응형 균일성 테스팅의 정확한 쿼리 복잡도를 규명하기 위해.
• 적응형 및 비적응형 쿼리 모델 하에서 서포트 크기 추정에 대해 날카로운 상한과 하한을 확립하기 위해.
• 조건부 샘플링 프레임워크 내에서 신원 테스팅과 동치성 테스팅 간의 쿼리 복잡도의 본질적 차이를 명확히 하기 위해.

제안 방법

• 특히 구성된 분포 가족과 조건부 샘플링 행동의 확률적 분석를 통해 동치성 테스팅에 대해 Ω(√log log n) 조건부 쿼리의 하한을 증명한다.
• 비적응형 균일성 테스팅에 대해 하한을 확립하기 위해 균일성 테스팅 문제의 변종으로부터 새로운 감소를 적용한다.
• 후보 서포트 크기의 이중 지수 탐색을 사용하여 다항 로그 로그 n 복잡도를 갖는 적응형 알고리즘을 설계한다.
• 각 하위집합에 대한 균일성 테스팅을 기반으로 랜덤 샘플링과 함께 비적응형 알고리즘을 설계하여 서포트 크기 추정에 대해 다항 로그 n 복잡도를 달성한다.
• 비적응형 조건부 분포에 대한 균일성 테스팅을 위해 찰크라보르타 등(2013)의 테스터를 서브루틴으로 사용한다.
• 모든 알고리즘에서 정확도 확률을 강화하기 위해 반복 시도에 대한 임계값 설정과 다수결 투표를 적용한다.

실험 결과

연구 질문

• RQ1 조건부 샘플링 모델에서 동치성 테스팅에 대해 초수상수 쿼리 복잡도 하한이 존재하는가?
• RQ2 비적응형 균일성 테스팅이 조건부 샘플링 모델에서 Ω(log n) 쿼리를 요구하는가?
• RQ3 적응형 모델에서 서포트 크기 추정을 다항 로그 로그 n 쿼리 이내로 수행할 수 있는가?
• RQ4 서포트 크기 추정에 대해 최적의 비적응형 쿼리 복잡도는 무엇인가?
• RQ5 조건부 샘플링 모델에서 신원 테스팅과 동치성 테스팅의 쿼리 복잡도는 어떻게 비교되는가?

주요 결과

• 조건부 샘플링 모델에서의 동치성 테스팅은 Ω(√log log n) 쿼리가 필요하며, 이는 초수상수 하한을 확립하고 신원 테스팅과 동치성 테스팅 간의 극명한 격차를 드러낸다.
• 비적응형 균일성 테스팅은 Ω(log n) 쿼리가 필요하며, 이는 열린 질문을 해결하고 이전의 Ω(log log n) 하한보다 지수적 향상된 결과를 제공한다.
• 서포트 크기 추정에 대해 다항 로그 로그 n 복잡도를 갖는 적응형 알고리즘이 도달하며, 이는 로그 인자 수준까지 최고의 알려진 상한과 일치한다.
• 서포트 크기 추정에 대해 다항 로그 n 복잡도를 갖는 비적응형 알고리즘이 도달하며, 이는 다항 인자 수준에서 최적이며 최적이다.
• 비적응형 서포트 크기 추정에 대해 Ω(log n) 조건부 쿼리의 질적으로 날카로운 하한이 확립된다.
• 논문은 조건부 모델 내에서 신원 테스팅과 동치성 테스팅 간의 엄격한 분리를 입증한다: 신원 테스팅은 상수 쿼리이며, 동치성 테스팅은 초수상수 쿼리가 필요하다.