[논문 리뷰] Quantum Bayesian Neural Networks

Noah Berner, Vincent Fortuin외 1명|arXiv (Cornell University)|2021. 07. 20.

Quantum Computing Algorithms and Architecture참고 문헌 36인용 수 4

한 줄 요약

이 논문은 고전적 내적 계산을 반복 평가가 필요 없는 수정된 양자 내적 추정(IPE) 알고리즘으로 대체하는 양자 알고리즘을 제안한다. 이는 베이지안 신경망(BNN) 추론을 위한 것으로, 각 샘플당 한 번의 양자 계산으로 정확한 사후 분포 근사가 가능하며, 노이즈가 있는 소규모 양자 시뮬레이션에서도 강력한 경험적 성능을 보이며, 노이즈가 있는 중간 규모 양자(NISQ) 하드웨어 환경에서도 양자 가속의 잠재력을 실현한다.

ABSTRACT

Quantum machine learning promises great speedups over classical algorithms, but it often requires repeated computations to achieve a desired level of accuracy for its point estimates. Bayesian learning focuses more on sampling from posterior distributions than on point estimation, thus it might be more forgiving in the face of additional quantum noise. We propose a quantum algorithm for Bayesian neural network inference, drawing on recent advances in quantum deep learning, and simulate its empirical performance on several tasks. We find that already for small numbers of qubits, our algorithm approximates the true posterior well, while it does not require any repeated computations and thus fully realizes the quantum speedups.

연구 동기 및 목표

• 노이즈가 있는 중간 규모 양자(NISQ) 하드웨어 환경에서도 베이지안 신경망(BNNs)이 양자 가속을 얻을 수 있는지 탐색한다.
• BNN가 노이즈가 있는 파rameter 추정에 내재된 내성적 내성에 기반해, 내적 추정에서 발생하는 양자 노이즈 문제를 해결한다.
• 고전적 내적 계산을 단일 스크린 양자 IPE로 대체하는 알고리즘을 개발하고 시뮬레이션하여, 고전적 접근 방식에서 요구하는 반복 평가를 피한다.
• 양자 BNN 추론이 각 샘플당 한 번의 양자 계산으로도 진정한 사후 분포를 효과적으로 근사할 수 있음을 경험적으로 검증한다. 이는 제한된 큐비트 수가 존재하는 조건에서도 성립한다.

제안 방법

• Kerenidis 등(2018)의 양자 내적 추정(IPE) 알고리즘을 수정하여 중앙값 평가를 제거함으로써, 표준 IPE 대비 런타임을 log(1/Δ) 배만큼 감소시킨다.
• 내적 추정을 위해 진폭 추정 및 위상 추정 서브루틴을 사용하여, 가중치 벡터와 활성화 벡터 간의 내적을 양자 중첩 상태에서 추정하며, 출력은 노이즈가 있지만 사용 가능한 추정치로 매핑된다.
• 입력 벡터를 양자 상태로 로드하기 위해 양자 랜덤 액세스 메모리(qRAM) 모델을 활용하여 다항로그 시간 복잡도를 달성함으로써 효율적인 상태 준비를 가능하게 한다.
• IPE를 수정하여 각 샘플당 하나의 추정치만 수용하도록 하며, BNN의 사후 샘플링 성격을 활용해 내재된 양자 노이즈를 수용한다.
• 양자-추정 기반 그래디언트를 사용해 매개변수 갱신을 수행하기 위해, SGLD, HMC, 또는 NUTS와 같은 마르코프 체인 몬테카를로(MCMC) 프레임워크 내에서 양자 IPE를 적용한다.
• 큐비트 수(n=5에서 n=13)를 다양하게 설정하여 선형 회귀 및 이진 분류 작업에서 알고리즘을 시뮬레이션하고, 고전적 및 양자 추론 및 예측 성능을 비교한다.

실험 결과

연구 질문

• RQ1 각 샘플당 한 번의 평가로도 양자 내적 추정이 베이지안 신경망에서 충분히 정확한 사후 분포 근사를 가능하게 할 수 있는가?
• RQ2 내재된 양자 노이즈가 있는 IPE 서브루틴 상황에서 큐비트 수가 증가함에 따라 양자 BNN 추론의 성능은 어떻게 변화하는가?
• RQ3 베이지안 추론의 내재된 노이즈 내성 덕분에, 노이즈가 있는 단일 스크린 양자 계산을 사용할 경우 의미 있는 양자 가속이 달성될 수 있는가?
• RQ4 다양한 초기화 전략(전위수 및 저위수)이 양자 BNN 추론의 수렴성과 정확성에 어떤 영향을 미치는가?
• RQ5 양자 BNN 추론은 고전적 기준 대비 진정한 사후 예측 분포를 어느 정도 근사할 수 있는가?

주요 결과

• 제안된 양자 IPE 알고리즘은 각 샘플당 한 번의 양자 계산으로도 정확한 사후 분포 근사를 달성하여, 고전적 양자 알고리즘에서 요구하는 반복 평가가 필요 없어진다.
• 큐비트 수가 적은 경우(n=5에서 n=13), 낮은 사후 예측 표준편차와 높은 예측 정확도로 인해 진정한 사후 분포에 매우 가까운 근사를 보였다.
• 시뮬레이션 결과에 따르면 큐비트 수(n)를 늘릴수록 사후 분포 근사 품질이 일관되게 향상되며, 이는 방법의 확장 가능성을 시사한다.
• IPE 위상 추정 서브루틴에서 발생하는 비등방성 및 주기적 노이즈 패턴에 대해서도 성능이 잘 유지되어, NISQ 시대의 일반적인 노이즈에 대한 강건성을 보였다.
• 전위수 및 저위수 가중치 초기화 모두 안정적인 성능을 보였으며, 양자 추론 품질에 심각한 열화가 없었고, 이는 표준 BNN 학습 관행과의 호환성을 시사한다.
• 큐비트 수가 증가함에 따라 양자 추론 파이프라인(QICP)이 고전적 추론(CICP) 및 고전적 양자 추론(CIQP)보다 사후 예측 정확도에서 뛰어난 성능을 보였다.