[논문 리뷰] Sublinear quantum algorithms for training linear and kernel-based classifiers

Tongyang Li, Shouvanik Chakrabarti외 1명|arXiv (Cornell University)|2019. 04. 04.

Quantum Computing Algorithms and Architecture참고 문헌 40인용 수 27

한 줄 요약

이 논문은 입력 데이터에 표준적인 엔트리 단위 양자 액세스를 사용하고, 고전적 방법에 비해 제곱근 수준의 런타임을 가지며, 선형 및 커널 기반 분류기의 학습을 위한 하위선형 양자 알고리즘을 제시한다. 이 알고리즘들은 $Õ(\sqrt{n} + \sqrt{d})$의 런타임을 가지며, 고전적 방법 대비 제곱근의 가속 효과를 달성한다. 알고리즘은 최종 출력을 고전적 형태로 생성하며, 하이브리드 양자-고전적 응용에서 최소한의 오버헤드를 유도한다.

ABSTRACT

We investigate quantum algorithms for classification, a fundamental problem in machine learning, with provable guarantees. Given $n$ $d$-dimensional data points, the state-of-the-art (and optimal) classical algorithm for training classifiers with constant margin runs in $ ilde{O}(n+d)$ time. We design sublinear quantum algorithms for the same task running in $ ilde{O}(\sqrt{n} +\sqrt{d})$ time, a quadratic improvement in both $n$ and $d$. Moreover, our algorithms use the standard quantization of the classical input and generate the same classical output, suggesting minimal overheads when used as subroutines for end-to-end applications. We also demonstrate a tight lower bound (up to poly-log factors) and discuss the possibility of implementation on near-term quantum machines. As a side result, we also give sublinear quantum algorithms for approximating the equilibria of $n$-dimensional matrix zero-sum games with optimal complexity $ ildeΘ(\sqrt{n})$.

연구 동기 및 목표

• 데이터 크기 $n$과 차원 $d$에 대해 하위선형 런타임을 달성하는 선형 및 커널 기반 분류기 학습을 위한 양자 알고리즘을 설계하는 것.
• 양자 알고리즘이 표준 엔트리 단위 입력 액세스를 사용하고 고전적 출력을 생성함으로써, 종단 간 응용에서 오버헤드를 최소화하는 것.
• 상한과 정확히 일치하는 다항로그 요소까지의 하한을 확보하기 위해, 최적의 양자 하한을 설정하는 것.
• 이 알고리즘들이 근접한 양자 장치에서 실제로 구현 가능한지 탐색하는 것.

제안 방법

• 분류의 핵심이 되는 최대-최소 문제를 해결함에 있어, 진폭 증폭과 진폭 추정 기법을 활용하여 제곱근의 가속 효과를 달성한다.
• 데이터 엔트리에 대한 일관된 양자 질의 액세스를 사용하여, 인덱스 집합 $i \in [n]$과 $j \in [d]$에 대한 초월 상태를 구성함으로써 효율적인 계산을 가능하게 한다.
• 선형 및 커널 기반 분류를 각각 최대-최소 문제로 공식화한다: $\max_{w \in \mathbb{B}_d} \min_{i \in [n]} X_i^\top w$ 및 $\max_{w \in \mathbb{B}_d} \min_{i \in [n]} \langle \Psi(X_i), w \rangle$.
• 최적의 분류기 $\bar{w}$를 근사하는 양자 서브루틴을 설계하여, $\min_i X_i^\top \bar{w} \geq \max_w \min_i X_i^\top w - \epsilon$을 만족하도록 한다.
• 양자 검색 문제로의 감소를 통해 양자 하한을 증명함으로써, 분류 문제와 0-합 게임 문제를 해결하기 위해 $\Omega(\sqrt{n} + \sqrt{d})$의 질의가 필수적임을 보였다.
• 동일한 프레임워크를 $n$차원 행렬의 0-합 게임에서 균형을 근사하는 데 적용하여 $\tilde{\Theta}(\sqrt{n})$의 복잡도를 달성하였다.

실험 결과

연구 질문

• RQ1 표준 입력 모델 하에서 선형 분류기 학습에 대해, 양자 알고리즘이 $n$과 $d$에 대해 모두 하위선형 런타임을 달성할 수 있는가?
• RQ2 고정된 마진을 가진 커널 기반 분류기의 근사에 대해 최적의 양자 복잡도는 무엇인가?
• RQ3 제안된 알고리즘의 가속 효과가 정확한 하한에 의해 뒷받침되는가? 이는 알고리즘의 최적성 확인에 기여한다.
• RQ4 오차 매개변수 $\epsilon$에 대한 의존성은 양자 환경에서 고전적 알고리즘에 비해 어떻게 스케일링되는가?
• RQ5 이 프레임워크를 분류와 0-합 게임을 초월한 다른 균형 문제로 확장할 수 있는가?

주요 결과

• 논문은 선형 및 커널 기반 분류에 대해 $\tilde{O}(\sqrt{n} + \sqrt{d})$의 런타임을 가지며, 고전적 방법 대비 제곱근의 가속 효과를 달성하는 양자 알고리즘을 제시한다. 고전적 방법의 $\tilde{O}(n + d)$ 런타임 대비 제곱근의 가속 효과를 달성한다.
• 상한과 정확히 일치하는 다항로그 요소까지의 하한을 증명함으로써, 알고리즘이 다항로그 요소까지 최적임을 입증한다.
• 0-합 게임의 경우 알고리즘은 $\tilde{O}(\sqrt{n}/\epsilon^4)$의 복잡도를 달성하며, 이에 대응하는 $\Omega(\sqrt{n})$의 하한도 존재한다.
• 양자 알고리즘은 표준 엔트리 단위 입력 액세스를 사용하고, 효율적인 표현 방식을 통해 고전적 출력을 생성함으로써, 하이브리드 응용에서 오버헤드를 최소화한다.
• $\epsilon$에 대한 의존성은 양자 알고리즘에서 고전적 알고리즘보다 열 劣하다 (각각 $\epsilon^{-8}$ 대비 $\epsilon^{-2}$). 이는 고정밀도 작업에서의 상충 관계를 시사한다.
• 이 프레임워크는 게임 이론에서의 균형 계산을 포함한 다른 최대-최소 문제로 일반화 가능하며, $n$차원 0-합 게임에 대해 $\tilde{\Theta}(\sqrt{n})$의 정확한 복잡도를 달성한다.