[논문 리뷰] A quantum-inspired classical algorithm for recommendation systems

Ewin Tang|arXiv (Cornell University)|2018. 07. 10.

Quantum Computing Algorithms and Architecture인용 수 11

한 줄 요약

이 논문은 랭크-$k$ 근사에 대해 $O(\operatorname{poly}(k)\log(mn))$의 실행 시간을 가지는 고전적 알고리즘을 제시한다. 이는 키크리디스와 프라카시의 양자 추천 시스템과 거의 동일한 런타임을 달성한다. 특수한 데이터 구조를 통한 $\ell^2$-노름 샘플링을 활용하여 고전적 알고리즘이 양자 스피드업의 효율성을 재현하며, 이 경우의 양자 우월성이 지수적이라기보다 다항적임을 보여준다.

ABSTRACT

We give a classical analogue to Kerenidis and Prakash's quantum recommendation system, previously believed to be one of the strongest candidates for provably exponential speedups in quantum machine learning. Our main result is an algorithm that, given an $m imes n$ matrix in a data structure supporting certain $\ell^2$-norm sampling operations, outputs an $\ell^2$-norm sample from a rank-$k$ approximation of that matrix in time $O( ext{poly}(k)\log(mn))$, only polynomially slower than the quantum algorithm. As a consequence, Kerenidis and Prakash's algorithm does not in fact give an exponential speedup over classical algorithms. Further, under strong input assumptions, the classical recommendation system resulting from our algorithm produces recommendations exponentially faster than previous classical systems, which run in time linear in $m$ and $n$. The main insight of this work is the use of simple routines to manipulate $\ell^2$-norm sampling distributions, which play the role of quantum superpositions in the classical setting. This correspondence indicates a potentially fruitful framework for formally comparing quantum machine learning algorithms to classical machine learning algorithms.

연구 동기 및 목표

• 키크리디스와 프라카시의 양자 추천 시스템이 고전적 알고리즘보다 지수적 스피드업을 제공한다는 믿음을 도전하기 위해.
• 동일한 입력 가정 하에 양자 알고리즘의 성능을 재현하는 고전적 대체 알고리즘을 구축하기 위해.
• 고전적 알고리즘이 유사한 런타임을 가지므로, 이 설정에서의 양자 스피드업이 다항적일 뿐 지수적은 아님을 보여주기 위해.
• 양자 중첩과 고전적 $\ell^2$-노름 샘플링 분포 사이의 대응관계를 체계화하여 양자 및 고전적 머신러닝을 비교하는 프레임워크를 제시하기 위해.
• 강한 입력 가정 하에 고전적 알고리즘이 양자 버전의 오차 한계를 충족시키며 높은 품질의 추천을 생성하는 효과성을 검증하기 위해.

제안 방법

• 매트릭스의 행과 열에 대해 $\ell^2$-노름 샘플링 연산을 지원하는 데이터 구조를 사용하며, 이는 양자 상태 준비와 유사하다.
• 벡터 샘플링 루틴을 활용하여 고전적 확률 분포를 사용해 양자 앰플리튜드 증폭 및 투영 단계를 시뮬레이션한다.
• 반복적 샘플링과 오차 제어를 통해 저랭크 근사를 적용하며, 근사 오차를 $\|A_{\sigma,\eta} - D\|_F$로 제한한다.
• 체르노프 경계와 농도 불등식을 사용하여 진짜 매트릭스의 프로베누스 노름 추정의 오차를 제어한다.
• 총 변동 거리(total variation distance)를 사용하여 고전적 알고리즘의 출력 분포를 목표 추천 분포와 비교한다.
• 마르코프 부등식과 세는 방법을 적용하여 일정 비율의 사용자들에 대해 비율 $\|A_i\| / \|D_i\|$가 유한하게 유지됨을 보여주며, 이는 효율적인 런타임을 보장한다.

실험 결과

연구 질문

• RQ1 고전적 알고리즘이 키크리디스와 프라카시의 양자 추천 시스템과 동일한 점근적 런타임을 달성할 수 있는가?
• RQ2 이 추천 시스템에서의 양자 스피드업은 진정으로 지수적인가, 아니면 다항적인가?
• RQ3 고전적 $\ell^2$-노름 샘플링 루틴은 양자 머신러닝 알고리즘에서 양자 중첩의 역할을 시뮬레이션할 수 있는가?
• RQ4 어떤 입력 가정 하에서 고전적 알고리즘이 선형 시간에 실행되는 이전의 고전적 추천 시스템을 초월하는가?
• RQ5 고전적 알고리즘이 하위선형 쿼리 복잡도를 유지하면서 양자 추천 시스템의 오차 한계를 어느 정도까지 재현할 수 있는가?

주요 결과

• 고전적 알고리즘은 $O(\operatorname{poly}(k)\log(mn))$의 실행 시간을 가지며, 양자 알고리즘의 런타임과 다항적 느려짐을 제외하고 동일하다.
• 알고리즘은 양자 알고리즘과 동일한 총 변동 오차 한계를 달성하며, 오차는 $O(\varepsilon + \rho)\|T\|_F$로 표현되며, $\varepsilon$는 근사 오차를 제어하고 $\rho$는 저랭크 근사 오차를 제어한다.
• 일정 비율의 사용자들에 대해 비율 $\|A_i\| / \|D_i\|$가 유한하게 유지되며, 이는 알고리즘의 사용자당 런타임이 효율적임을 보장한다.
• 고전적 샘플링을 사용하더라도, 알고리즘이 양자 알고리즘과 동일한 실패 확률 $O(\varepsilon^2)$을 유지한다.
• 프로베누스 노름 오차 $\|T - D\|_F$는 $O(\rho + \varepsilon)\|T\|_F$ 이하로 제한되며, 이는 고전적 근사가 진짜 저랭크 매트릭스에 가까움을 보여준다.
• 결과적으로 이 경우에 지수적 양자 스피드업의 주장은 반박되며, 양자 우월성이 다항적일 뿐 지수적은 아님을 보여준다.