[論文レビュー] Tight Bounds for the Distribution-Free Testing of Monotone Conjunctions

Xi Chen, Jinyu Xie|arXiv (Cornell University)|Nov 10, 2015

Machine Learning and Algorithms参考文献 14被引用数 9

ひとこと要約

この論文は、単調な論理積の分布フリーなテストにおけるタイトなクエリ複雑度の境界を確立し、$\tilde{O}(n^{1/3}/\theta^5)$-クエリの片側アルゴリズムと、$\tilde{\bar{\theta}}(n^{1/3})$ の下界を提示している。$\theta$ が定数のとき、両者とも多対数要因を除いてタイトである。これらの結果は一般論理積、意思決定リスト、線形閾値関数へと拡張され、これらのクラスにおけるクエリ複雑度の長年のギャップが解消された。

ABSTRACT

We improve both upper and lower bounds for the distribution-free testing of monotone conjunctions. Given oracle access to an unknown Boolean function $f:\{0,1\}^n ightarrow \{0,1\}$ and sampling oracle access to an unknown distribution $\mathcal{D}$ over $\{0,1\}^n$, we present an $ ilde{O}(n^{1/3}/ε^5)$-query algorithm that tests whether $f$ is a monotone conjunction versus $ε$-far from any monotone conjunction with respect to $\mathcal{D}$. This improves the previous best upper bound of $ ilde{O}(n^{1/2}/ε)$ by Dolev and Ron when $1/ε$ is small compared to $n$. For some constant $ε_0>0$, we also prove a lower bound of $ ildeΩ(n^{1/3})$ for the query complexity, improving the previous best lower bound of $ ildeΩ(n^{1/5})$ by Glasner and Servedio. Our upper and lower bounds are tight, up to a poly-logarithmic factor, when the distance parameter $ε$ is a constant. Furthermore, the same upper and lower bounds can be extended to the distribution-free testing of general conjunctions, and the lower bound can be extended to that of decision lists and linear threshold functions.

研究の動機と目的

• 分布フリーなテストにおける単調な論理積の既存の上界と下界のギャップを埋める。
• DolevとRon（2011年）の先行研究における $\tilde{O}(n^{1/2}/\theta)$ の境界を超えて、分布フリーなテストのクエリ複雑度を改善すること。
• 単調な論理積、一般論理積、意思決定リスト、線形閾値関数の分布フリーなモデルにおけるタイトなクエリ複雑度の境界を確立すること。
• 下界の技法をより広範なブール関数クラスへと拡張し、多対数要因を除いてタイトさを維持すること。

提案手法

• クエリの依存度を $n$ と $\theta$ に低減するための、新しいサンプリングとクエリ戦略を用いた、片側の分布フリーなテストアルゴリズムの設計。
• 正確に構築された分布 $\text{YES}^*$ と $\text{NO}^*$ におけるテストアルゴリズムの受容確率の分析を洗練させ、下界を確立。
• 一般論理積から単調な論理積への還元を用いて、上界をより広い関数クラスへと拡張。
• テスト問題の困難なインスタンスをシミュレートするための、関数と分布のペア $\text{YES}^*$ と $\text{NO}^*$ を構築。
• 意思決定木におけるルートの逸脱確率をバウンディングすることで、テストアルゴリズムが $\text{YES}$ と $\text{NO}$ の分布を区別できない確率を分析。
• 単調関数の構造的性質と、サンプリングされた集合に含まれない変数の役割を活用し、下界証明における誤差確率をバウンディング。

実験結果

リサーチクエスチョン

• RQ1 分布フリーなテストにおける単調な論理積の最適クエリ複雑度は何か？ そして、$\tilde{O}(n^{1/2}/\theta)$ の境界を超えて改善可能か？
• RQ2 分布フリーなテストにおける単調な論理積に対して、$\tilde{\bar{\theta}}(n^{1/3})$ の下界を確立できるか？
• RQ3 単調な論理積に対する上界と下界は、一般論理積、意思決定リスト、線形閾値関数へどの程度拡張可能か？
• RQ4 パラメータ $\theta$ が定数のとき、$\tilde{O}(n^{1/3}/\theta^5)$-クエリのアルゴリズムは多対数要因を除いてタイトか？

主な発見

• 本論文は、クエリ複雑度 $O((n^{1/3}/\theta^5) \times \text{poly}(\text{log}(n/\theta)))$ の片側の分布フリーなテストアルゴリズムを提示し、$1/\theta$ が $n$ より小さい場合に、先行研究の $\tilde{O}(n^{1/2}/\theta)$ の境界を改善した。
• 二面的な分布フリーなテストにおける単調な論理積に対して、下界 $\tilde{\bar{\theta}}(n^{1/3}/\text{log}^3 n)$ を確立し、以前の $\tilde{\bar{\theta}}(n^{1/5})$ の境界を改善した。
• $\theta$ が定数のとき、上界と下界は多対数要因を除いてタイトであり、単調な論理積の漸近的クエリ複雑度が解消された。
• 単調な論理積に対する上界は、還元によって一般論理積へと拡張され、同様の漸近的クエリ複雑度が得られた。
• 単調な論理積に対する下界は、一般論理積、意思決定リスト、線形閾値関数へと拡張され、これらのクラスに対する先行の下界が改善された。
• 結果として、$\theta$ が定数のとき、これらの関数クラスの分布フリーなテストのクエリ複雑度が $n^{1/3}$ に多対数要因を除いてタイトに特徴づけられていることが示された。