[論文レビュー] Does robustness imply tractability? A lower bound for planted clique in the semi-random model

Jacob Steinhardt|arXiv (Cornell University)|Apr 17, 2017

Random Matrices and Applications参考文献 15被引用数 7

ひとこと要約

この論文は、半確率的モデルにおけるプラント・クリーク問題に対して、情報理論的下界をタイトに確立し、√n未満のクリークでは回復が不可能であることを示しており、標準モデルにおける√nの予想される計算的閾値と一致する。この結果は、ロバスト性が古典的な計算的・統計的ギャップを解消する可能性を示唆する。

ABSTRACT

We consider a robust analog of the planted clique problem. In this analog, a set $S$ of vertices is chosen and all edges in $S$ are included; then, edges between $S$ and the rest of the graph are included with probability $\frac{1}{2}$, while edges not touching $S$ are allowed to vary arbitrarily. For this semi-random model, we show that the information-theoretic threshold for recovery is $ ildeΘ(\sqrt{n})$, in sharp contrast to the classical information-theoretic threshold of $Θ(\log(n))$. This matches the conjectured computational threshold for the classical planted clique problem, and thus raises the intriguing possibility that, once we require robustness, there is no computational-statistical gap for planted clique. Our lower bound involves establishing a result regarding the KL divergence of a family of perturbed Bernoulli distributions, which may be of independent interest.

研究の動機と目的

• ロバスト性が古典的モデルで観察される計算的・統計的ギャップを解消するかどうかを調査すること。
• 非クラークエッジが敵対的に摂動される半確率的モデルにおけるクリーク回復の情報理論的下界を確立すること。
• 下界を導出するために、摂動されたベルヌーイ分布のKLダイバージェンスを分析すること。
• 半確率的モデルにおける情報理論的閾値と、標準モデルにおける計算的閾値を比較すること。
• ロバストモデルが統計的閾値と計算的閾値の一致をもたらすかどうかを評価すること。

提案手法

• プラント・クリーク内のエッジは固定され、クラークと非クラーク頂点間のエッジはp=1/2でランダム化され、非クラークエッジは敵対的に選ばれる半確率的モデルを提案する。
• 隣接行列上の分布間のダイバージェンスを分解するために、KLダイバージェンスの連鎖則を用いる。
• フーリエ解析とモーメントマッチングを用いて、摂動されたベルヌーイ族間のKLダイバージェンスに対する新しい境界を適用する。
• 摂動分布のフーリエ係数S(J)とT(J)の差異とKLダイバージェンスを関連付ける重要な不等式を導出する。
• 超幾何分布の尾部バウンドと二項分布近似を用いて、ダイバージェンス解析における誤差項を制御する。
• 和集合に関するユニオンバウンドと確率的議論を用いて、帰無仮説モデル下で大規模なクリークが高頻度で共通部分を持つことはほとんど不可能であることを示す。

実験結果

リサーチクエスチョン

• RQ1 プラント・クリークモデルにおけるロバスト性の要請が、計算的・統計的ギャップを埋めるか？
• RQ2 半確率的モデルにおける正確な回復の情報理論的閾値は何か？
• RQ3 摂動された分布間のKLダイバージェンスは、クリークサイズと摂動パラメータとどのようにスケーリングするか？
• RQ4 古典的モデルにおける計算的閾値√nが、ロバストモデルにおける情報理論的下界で達成可能か？
• RQ5 古典的モデルと半確率的モデルの間で、回復可能性に根本的な差異はあるか？

主な発見

• 半確率的モデルにおける正確な回復の情報理論的閾値はω(√(n log n))であり、標準モデルにおける√nの予想される計算的閾値と一致する。
• 半確率的モデルでは、o(√n)のサイズのクリークの近似的な回復は情報理論的に不可能である。
• 摂動されたベルヌーイ分布間のKLダイバージェンスの新しい解析により、下界が確立された。この解析は独立に価値がある可能性がある。
• この結果は、ロバスト性がプラント・クリークにおける統計的・計算的限界の指数的ギャップを解消する可能性を示唆する。
• このモデルにおける回復の最良既知の上界はÕ(n^{2/3})であり、√nとn^{2/3}のギャップは、古典的モデルのlog nと√nのギャップよりも著しく小さい。
• 解析により、最大次数のような標準的ヒューリスティクスは半確率的モデルでは失敗することが示され、ロバストなアルゴリズムの必要性が正当化される。