[論文レビュー] Towards provably efficient quantum algorithms for large-scale machine-learning models

Junyu Liu, Minzhao Liu+6 more|arXiv (Cornell University)|Mar 6, 2023

Stochastic Gradient Optimization Techniques参考文献 92被引用数 4

ひとこと要約

本稿では、修正されたHHL型アルゴリズムを用いた量子強化勾配降下法を活用し、大規模な機械学習のための証明可能に効率的な耐故障量子アルゴリズムを提案する。スパースで散逸的（dissipative）なモデルの学習において、理論的スケーリングとして𝒪(T² × polylog(n))を達成し、Pruning後の初期段階の学習において量子高速化の可能性を示し、最大1億300万パラメータまでの数値的証拠を提示する。

ABSTRACT

Large machine learning models are revolutionary technologies of artificial intelligence whose bottlenecks include huge computational expenses, power, and time used both in the pre-training and fine-tuning process. In this work, we show that fault-tolerant quantum computing could possibly provide provably efficient resolutions for generic (stochastic) gradient descent algorithms, scaling as O(T^2 polylog(n)), where n is the size of the models and T is the number of iterations in the training, as long as the models are both sufficiently dissipative and sparse, with small learning rates. Based on earlier efficient quantum algorithms for dissipative differential equations, we find and prove that similar algorithms work for (stochastic) gradient descent, the primary algorithm for machine learning. In practice, we benchmark instances of large machine learning models from 7 million to 103 million parameters. We find that, in the context of sparse training, a quantum enhancement is possible at the early stage of learning after model pruning, motivating a sparse parameter download and re-upload scheme. Our work shows solidly that fault-tolerant quantum algorithms could potentially contribute to most state-of-the-art, large-scale machine-learning problems.

研究の動機と目的

• 大規模な機械学習モデルの学習のための理論的根拠に基づいた、証明可能に効率的な量子アルゴリズムの開発。
• GPT-3のような大規模モデルの学習に伴う高い計算コストと炭素排出量の低減。
• 量子アルゴリズムが、標準的な機械学習ワークフローにおいて、古典的手法を上回る条件の特定。
• 変分量子アルゴリズムから、古典的学習のボトル neck を量子的に加速する方向へのシフト。
• 特にスパースで散逸的（dissipative）な状況において、勾配降下法における量子高速化の理論的保証の確立。

提案手法

• 散逸的微分方程式に対する効率的な量子アルゴリズムを、（確率的）勾配降下問題に適応する。
• スパース行列の逆行列を求める修正されたHHLアルゴリズムを適用し、ニューラルネットワーク学習における重み更新の高速化を実現する。
• 量子高速化が理論的に可能であることを保証するため、モデルのスパarsityと散逸性に制約を課す。
• 学習ダイナミクスの線形化を用いて、非線形最適化問題を、量子微分方程式ソルバーで解ける形に変換する。
• Pruning後にパラメータのダウンロードと再アップロードスキームを採用し、スパースなモデル状態の量子処理を可能にする。
• 誤り耐性と証明可能な効率性を確保するため、耐故障量子計算の仮定に依存する。

実験結果

リサーチクエスチョン

• RQ1 耐故障量子アルゴリズムは、機械学習における大規模勾配降下問題に対して、証明可能に効率的な解を提供できるか？
• RQ2 具体的にはスパarsityと散逸性のどの条件下で、量子アルゴリズムが実際の古典的学習を上回るのか？
• RQ3 モデルPruning後の初期段階において、誤差の指数的増大が顕著になる前段階で、量子優位性が得られるか？
• RQ4 量子強化勾配降下法は、理論的保証とともに、標準的な機械学習パイプラインに統合可能か？
• RQ5 大規模モデルの学習において、量子高速化を維持するための散逸性とスパarsityの正式な基準は何か？

主な発見

• 提案された量子アルゴリズムは、大規模でスパースかつ散逸的（dissipative）なモデルの学習において、理論的実行時間スケーリング𝒪(T² × polylog(n))を達成する。
• 数値的ベンチマークでは、Pruning後の初期学習段階において、特にスパースパラメータ領域で量子的高速化の可能性が示された。
• モデルサイズにかかわらず頑健であることが確認され、最大1億300万パラメータまでのシミュレーションに成功しており、スケーラビリティを示唆する。
• Tangらの手法による「dequantization」が不可能であることが裏付けられており、非線形散逸的ダイナミクスを介してBQP困難問題を解くことに依存しているため。
• ロットリートッケット仮説と整合的であり、スパarsityが定数または多項式的にスケーリングされても性能が維持される。
• 本研究は、古典的学習のエンドツーエンド量子加速のためのフレームワークを提供し、変分アルゴリズムから、コア最適化ボトル neck の量子加速への焦点のシフトを実現する。