[論文レビュー] No Quantum Speedup over Gradient Descent for Non-Smooth Convex Optimization

Ankit Garg, Robin Kothari+2 more|arXiv (Cornell University)|Oct 5, 2020

Quantum Computing Algorithms and Architecture参考文献 25被引用数 1

ひとこと要約

この論文は、滑らかでない関数に対するブラックボックス1次凸最適化において、量子アルゴリズムが古典的勾配降下法を上回る高速化を達成できないことを確立している。関数および部分勾配への量子クエリアクセスがある場合でさえも、そのような高速化は不可能である。特定の難易度の高いインスタンスに対しては量子アルゴリズムが O(GR/ϵ) クエリで解けるが、著者らはタイトな Ω((GR/ϵ)²) の量子クエリ下界を証明し、次元に依存しない設定において追加の関数の仮定がない限り、一般に量子的優位性は存在しないことを示している。

ABSTRACT

We study the first-order convex optimization problem, where we have black-box access to a (not necessarily smooth) function $f:\mathbb{R}^n o \mathbb{R}$ and its (sub)gradient. Our goal is to find an $ε$-approximate minimum of $f$ starting from a point that is distance at most $R$ from the true minimum. If $f$ is $G$-Lipschitz, then the classic gradient descent algorithm solves this problem with $O((GR/ε)^{2})$ queries. Importantly, the number of queries is independent of the dimension $n$ and gradient descent is optimal in this regard: No deterministic or randomized algorithm can achieve better complexity that is still independent of the dimension $n$. In this paper we reprove the randomized lower bound of $Ω((GR/ε)^{2})$ using a simpler argument than previous lower bounds. We then show that although the function family used in the lower bound is hard for randomized algorithms, it can be solved using $O(GR/ε)$ quantum queries. We then show an improved lower bound against quantum algorithms using a different set of instances and establish our main result that in general even quantum algorithms need $Ω((GR/ε)^2)$ queries to solve the problem. Hence there is no quantum speedup over gradient descent for black-box first-order convex optimization without further assumptions on the function family.

研究の動機と目的

• この論文は、ブラックボックス1次凸最適化において、量子アルゴリズムが古典的勾配降下法を上回れるかどうかを調査する。
• G-リプシッツ連続な勾配をもつ滑らかでない凸関数に焦点を当て、古典的勾配降下法が O((GR/ϵ)²) のクエリ複雑度を達成する。
• 量子アルゴリズムがこの古典的複雑度の上限を破れるかどうかを特定することを目的とする。
• 追加の関数構造が存在しない状況において、タイトな量子クエリ下界を確立することを目的とする。
• 既知の特定インスタンスにおける量子高速化と、ブラックボックスモデルにおける一般の量子的優位性の不可能性との間のギャップを埋めることを目的とする。

提案手法

• 著者らは、先行研究よりも単純な議論を用いて、古典的確率的下界 Ω((GR/ϵ)²) を再証明する。
• 確率的アルゴリズムにとって難しいが、O(GR/ϵ) 量子クエリで解ける滑らかでない凸関数の特定の族を構築する。
• 異なる関数インスタンスのセットを用いて、量子アルゴリズムも Ω((GR/ϵ)²) のクエリを必要とすることを示す新しい量子下界を確立する。
• 高次元球内の確率的ベクトルと集中不等式を用いた確率的議論により、最適化が成功する可能性を制限する。
• 部分勾配オракルと線形関数の最大値関数の性質を活用して、関数族 fV(x) = max_i ⟨vi, x⟩ をモデル化する。
• ハイブリッド議論と確率的ベクトル射影の和集合を用いて、k クエリ未満のアルゴリズムが、高い確率で関数インスタンスを区別できないことを示すことにより、量子下界を導出する。

実験結果

リサーチクエスチョン

• RQ1 ブラックボックス1次設定における滑らかでない凸最適化において、量子アルゴリズムは古典的勾配降下法を上回る高速化を達成できるか？
• RQ2 この設定において、量子アルゴリズムが古典的手法を明示的に上回る高速化を達成できる関数クラスは存在するか？
• RQ3 γ = 0 の場合の fV(x) = max_i ⟨vi, x⟩ のようなより単純な関数クラスを用いて、量子下界を確立できるか？
• RQ4 勾配降下法が他の古典的手法に劣る次元依存の設定において、最もタイトな量子クエリ複雑度下界は何か？
• RQ5 滑らかな関数やプロキシオラクルモデルなどの他の凸最適化設定において、量子アルゴリズムは何か利点を提供するか？

主な発見

• 古典的勾配降下法は、G-リプシッツ連続で滑らかでない凸関数を最小化する際、O((GR/ϵ)²) のクエリ複雑度を達成する。
• 先行研究よりも単純な議論を用いて、Ω((GR/ϵ)²) の確率的下界を再証明する。
• 確率的下界に用いられた特定の関数族は、O(GR/ϵ) の量子クエリで解けるため、そのインスタンスでは潜在的な量子高速化が示せる。
• しかし、著者らは別の関数族を用いて、Ω((GR/ϵ)²) の新しい量子下界を確立し、一般に量子的優位性は存在しないことを証明する。
• この結果は、滑らかでない凸最適化におけるブラックボックス1次設定において、量子アルゴリズムが古典的勾配降下法を上回れないことを示唆する。
• 本論文は、特定インスタンスにおける既知の量子高速化と、この設定における一般の量子的優位性の不可能性とのギャップを埋めている。