[논문 리뷰] Improved stochastic trace estimation using mutually unbiased bases

Jack Fitzsimons, Michael A. Osborne외 2명|arXiv (Cornell University)|2016. 07. 30.

Blind Source Separation Techniques참고 문헌 1인용 수 12

한 줄 요약

이 논문은 대칭 양정준 행렬의 추적 추정에서 단일 샘플링 분산을 크게 줄이기 위해 상호 비편향 기저(MUBs)를 사용하는 새로운 스토하스틱 추적 추정기법을 제안한다. MUBs를 활용함으로써 이 방법은 worst-case 분산 한계로 $(n-1)/(n+1)\text{Tr}(A^2)$를 달성하며, $n$이 크면 허치슨(Hutchinson) 및 가우시안 추정기법보다 약 2배에 가까운 성능 향상을 보이며, 각 프로브 벡터당 $\mathcal{O}(\log n)$개의 랜덤 비트만을 요구한다.

ABSTRACT

We examine the problem of estimating the trace of a matrix $A$ when given access to an oracle which computes $x^\dagger A x$ for an input vector $x$. We make use of the basis vectors from a set of mutually unbiased bases, widely studied in the field of quantum information processing, in the selection of probing vectors $x$. This approach offers a new state of the art single shot sampling variance while requiring only $O(\log(n))$ random bits to generate each vector. This significantly improves on traditional methods such as Hutchinson's and Gaussian estimators in terms of the number of random bits required and worst case sample variance.

연구 동기 및 목표

• 대규모 행렬 계산에서 기존 스토하스틱 추적 추정 방법의 높은 분산과 랜덤성 비용 문제를 해결한다.
• 특히 암묵적 또는 대규모 행렬에 대해 추적 추정의 worst-case 단일 샘플링 분산을 향상시킨다.
• 프로빙 벡터당 필요한 랜덤 비트 수를 줄여 하드웨어 및 병렬 구현 환경에서의 효율성을 높인다.
• 행렬 거듭제곱의 추적을 활용한 그래프 내 삼각형 수 계산과 같은 실세계 문제에서의 실용적 슈퍼리오리티를 입증한다.

제안 방법

• 양자 정보 이론에서 유래한 상호 비편향 기저(MUBs)를 행렬 추적 추정의 프로빙 벡터로 사용한다.
• 만일 $n$이 소수 거듭제곱이라면 $\mathbb{C}^n$에서 $n+1$개의 상호 비편향 기저 집합에서 벡터를 샘플링하여 균일한 오버랩 성질을 확보한다.
• 복소수 프로빙 벡터 $\mathbf{x}$를 사용하여 $\mathbb{E}[\mathbf{x}^\dagger A \mathbf{x}] = \text{Tr}(A)$를 유지함으로써 비편향성을 확보한다.
• 단일 샘플링 분산을 $\text{V}_{\text{MUBs}}^{\text{worst}} = \frac{n-1}{n+1}\text{Tr}(A^2)$로 유도하며, 이는 고정 기저 또는 허치슨 추정기법보다 엄밀히 더 낫다.
• 실용적 구현을 가능하게 하기 위해 $\mathcal{O}(n)$ 시간에 MUB 벡터를 생성할 수 있는 효율적 구성법을 사용한다.
• 추적-추적 항등식을 활용하여 그래프 내 삼각형 수 계산을 위해 $\text{Tr}(A^3)/6$를 추정한다.

실험 결과

연구 질문

• RQ1 기존 방법 대비 상호 비편향 기저(MUBs)가 스토하스틱 추적 추정에서 worst-case 단일 샘플링 분산을 줄일 수 있는가?
• RQ2 허치슨 또는 가우시안 추정기법 대비 MUB 기반 방법에서 프로빙 벡터를 생성하기 위해 필요한 랜덤 비트 수는 어떻게 증가하는가?
• RQ3 대칭 양정준 행렬에 대해 MUB 기반 추정기의 이론적 worst-case 분산 한계는 무엇인가?
• RQ4 허치슨과 같은 전통적 방법 대비 MUB 기반 추정기가 실세계 응용, 예를 들어 대규모 그래프 내 삼각형 수 계산에서 슈퍼리어한 성능을 보일 수 있는가?
• RQ5 분산 성능을 희생시키지 않고 MUB 기반 방법이 랜덤성 사용을 상당히 줄일 수 있는가?

주요 결과

• MUB 기반 추정기는 worst-case 단일 샘플링 분산으로 $\frac{n-1}{n+1}\text{Tr}(A^2)$를 달성하며, 이는 어떤 고정 기저 추정기보다 최소 $n-1$ 배 이상 우수하다.
• 비음수 성질인 $\text{Tr}(A)^2 \geq 0$ 덕분에, MUB 추정기의 worst-case 분산은 $A$가 양정준이 아닐 경우에도 $\frac{n}{n+1}\text{Tr}(A^2)$로 유한하게 유지된다.
• 허치슨 추정기법 대비 MUB 방법은 worst-case 성능을 $\frac{2(n+1)(n-1)}{n^2}$ 배 향상시키며, $n$이 크면 이 값은 약 2에 수렴한다.
• MUB 추정기는 프로빙 벡터당 $\mathcal{O}(\log n)$개의 랜덤 비트만을 요구하여, 가우시안 또는 허치슨 방법 대비 랜덤성 오버헤드를 크게 줄였다.
• 실세계 그래프에 대한 수치 실험에서 MUB 추정기는 평균 절대 상대 오차 및 분산 측면에서 가우시안, 허치슨, 단위벡터 추정기보다 뛰어난 성능을 보였다.
• 이 방법은 삼각형 수 계산에 성공적으로 적용되었으며, $\text{Tr}(A^3)/6$를 낮은 오차와 감소된 랜덤성으로 효율적으로 추정할 수 있었다.