[论文解读] Almost Optimal Distribution-Free Junta Testing

Nader H. Bshouty|arXiv (Cornell University)|Jan 1, 2019

Machine Learning and Algorithms参考文献 36被引用 3

一句话总结

本文提出了一种双面、无分布的自适应算法，用于测试一个n元布尔函数是否为k- junta，实现了Õ(k/ǫ)的查询复杂度，几乎达到最优。该算法采用自适应查询策略和概率分析，在任意未知分布下检测函数依赖关系，填补了该问题在无分布模型中已知自适应下界与上界之间的差距。

ABSTRACT

We consider the problem of testing whether an unknown $n$-variable Boolean function is a $k$-junta in the distribution-free property testing model, where the distance between function is measured with respect to an arbitrary and unknown probability distribution over $\{0,1\}^n$. Chen, Liu, Servedio, Sheng and Xie showed that the distribution-free $k$-junta testing can be performed, with one-sided error, by an adaptive algorithm that makes $ ilde O(k^2)/ε$ queries. In this paper, we give a simple two-sided error adaptive algorithm that makes $ ilde O(k/ε)$ queries.

研究动机与目标

• 填补无分布k-junta测试中已知自适应下界与上界之间的差距。
• 开发一种比以往工作更高效的算法，后者在单面自适应测试中需要Õ(k²/ǫ)次查询。
• 在无分布模型中实现近乎最优的查询复杂度，其中距离度量基于任意且未知的分布。
• 提供一种简单而高效的自适应算法，其性能在对数因子范围内匹配Ω(k log k)的下界。

提出的方法

• 该算法自适应地查询函数值并从未知分布中采样，以识别相关变量并检测junta结构。
• 它将变量集进行划分，并使用递归策略，通过一种寻找相关变量的 folklore 引理变体，以每组O(log k)次查询检测相关集合。
• 该算法对投影函数执行一系列测试，以检测其是否接近字面量，使用均匀分布查询。
• 它基于多次随机投影和采样输入间的一致性检查，采用概率拒绝机制。
• 通过仔细控制重复测试和候选变量集的自适应精炼，将查询复杂度限制在Õ(k/ǫ)。
• 通过在多轮测试中使用浓度不等式和联合界，控制失败概率。

实验结果

研究问题

• RQ1 在双面自适应模型中，是否可以将无分布k-junta测试的查询复杂度降低至接近最优的Õ(k/ǫ)？
• RQ2 是否能够以比以往单面方法更简单、更高效的算法实现这一复杂度？
• RQ3 在任意分布下，自适应策略与非自适应或单面方法相比，在查询效率上表现如何？
• RQ4 在无分布设置中，达到poly(k/ǫ)查询复杂度所需的最少轮数是多少？
• RQ5 该算法能否扩展至单面测试，并保持相同的近乎最优查询复杂度？

主要发现

• 所提出的算法实现了Õ(k/ǫ)的查询复杂度，与Sa˘glam [44] 给出的Ω(k log k)下界在对数因子范围内匹配，因此几乎是最优的。
• 该算法为双面且自适应的，且在任意未知分布下运行，这推广了均匀分布模型。
• 该算法结合了自适应变量集检测与投影函数上的均匀分布测试，以识别相关变量并检测junta结构。
• 通过在多轮概率测试中仔细使用联合界，失败概率被控制在1/3以内，确保当f与每个k-junta相距ǫ时，能以高置信度拒绝。
• 该方法将所需查询次数从以往工作的Õ(k²/ǫ)减少到Õ(k/ǫ)，显著提升了效率。
• 分析表明，当ǫ为常数时，该算法的性能是紧致的，因为上界与已知下界在对数因子范围内匹配。