[논문 리뷰] On Stability of Tensor Networks and Canonical Forms

Yifan Zhang, Edgar Solomonik|arXiv (Cornell University)|2020. 01. 05.

Quantum many-body systems참고 문헌 36인용 수 5

한 줄 요약

이 논문은 텐서 네트워크에서 사이트별 편향에 따른 오차 확산에 대한 이론적 경계를 제공하며, DMRG와 같은 텐서 네트워크 알고리즘에서 수치적 안정성과 도달 가능한 정확도를 크게 향상시키는 캐논리컬 형식의 중요성을 밝혀낸다. 환경 행렬의 범수에 연결된 최악의 경우 및 평균 케이스 오차 경계를 유도하여, 캐논리컬 형식이 최악의 경우 오차를 환경 행렬의 특이값에 관련된 인자로 감소시킴을 보여주며, 특히 큰 특이값이 지배할 경우에 특히 효과적임을 밝힌다.

ABSTRACT

Tensor networks such as matrix product states (MPS) and projected entangled pair states (PEPS) are commonly used to approximate quantum systems. These networks are optimized in methods such as DMRG or evolved by local operators. We provide bounds on the conditioning of tensor network representations to sitewise perturbations. These bounds characterize the extent to which local approximation error in the tensor sites of a tensor network can be amplified to error in the tensor it represents. In known tensor network methods, canonical forms of tensor network are used to minimize such error amplification. However, canonical forms are difficult to obtain for many tensor networks of interest. We quantify the extent to which error can be amplified in general tensor networks, yielding estimates of the benefit of the use of canonical forms. For the MPS and PEPS tensor networks, we provide simple forms on the worst-case error amplification. Beyond theoretical error bounds, we experimentally study the dependence of the error on the size of the network for perturbed random MPS tensor networks.

연구 동기 및 목표

• 텐서 네트워크 사이트에서 국소적 편향이 네트워크 상태의 전반적 오차로 어떻게 확산되는지 정량화하는 것.
• 특히 MPS와 PEPS에 대해 캐논리컬 형식이 수치적 안정성에 기여하는 바를 분석하는 것.
• 편향이 가해진 상황에서 텐서 네트워크 표현에 대한 이론적 최악의 경우 및 평균 케이스 오차 경계를 도출하는 것.
• 결합 차원과 네트워크 크기가 오차 확산 및 캐논리컬 형식의 효과성에 미치는 영향을 평가하는 것.
• 랜덤 MPS 및 PEPS 텐서 네트워크에 대한 수치 실험을 통해 이론적 경계를 검증하는 것.

제안 방법

• 텐서 사이트와 네트워크의 나머지 부분 간의 관계를 기술하는 환경 행렬을 사용하여 최악의 경우 오차 확산 경계를 유도한다.
• 환경 행렬에 의해 유도되는 이차 시스템을 활용하여 일반 텐서 네트워크에서 최악의 경우 편향 오차를 특성화한다.
• 특이값 분해와 등장성 환경 성질을 적용하여 캐논리컬 형식과 그 조건수를 분석한다.
• 균일한 분산을 가진 랜덤 편향을 사용하여 평균 케이스 오차 경계를 유도하고, 몬테카를로 샘플링을 통해 검증한다.
• 단일 사이트 및 모든 사이트 편향 하에서 캐논리컬 형식과 일반 형식 간의 오차 비율을 비교하기 위해 랜덤 MPS에 대한 수치 실험을 수행한다.
• 스케일된 편향을 사용하고 상대 오차 비율을 계산하여, 다양한 결합 차원과 네트워크 크기에서 캐논리컬화로 인한 안정성 향상 정도를 평가한다.

실험 결과

연구 질문

• RQ1 단일 텐서 사이트에서의 국소적 편향이 전체 텐서 네트워크 상태의 오차로 어떻게 확산되는가?
• RQ2 캐논리컬 형식은 텐서 네트워크에서 최악의 경우 오차 확산을 어느 정도 감소시키는가?
• RQ3 오차 확산은 환경 행렬의 특이값에 의해 어떻게 영향을 받는가?
• RQ4 랜덤, 동일한 분포를 가진 편향 하에서 평균 케이스 오차 행동은 어떠한가? 이론적 예측과 시뮬레이션 결과는 얼마나 잘 일치하는가?
• RQ5 MPS와 PEPS에서 캐논리컬 형식의 이점은 결합 차원과 네트워크 크기에 따라 어떻게 스케일링되는가?

주요 결과

• 단일 사이트 편향의 경우, 캐논리컬 형식은 $\frac{\|\bm{M}\|_{2}\|\bm{\mathcal{T}}\|_{F}}{\|\bm{M}\cdot\bm{\mathcal{T}}\|_{F}}$의 인자로 최악의 경우 오차를 감소시킨다. 여기서 $\bm{M}$은 환경이고 $\bm{\mathcal{T}}$는 편향된 사이트이다.
• 모든 사이트 편향의 경우, 최악의 경우 오차 감소 인자는 $\frac{\|\bm{M}\|_{2}\|\bm{\mathcal{T}}\|_{F}}{\sqrt{D}\|\bm{M}\cdot\bm{\mathcal{T}}\|_{F}}$이며, $D$는 계약된 모드 차원이다.
• 오차 감소 이점은 결합 차원이 증가함에 따라 커지며, 특히 환경 행렬의 가장 큰 특이값이 지배할 경우(예: 지수적으로 감소하는 특이값) 더욱 두드러진다.
• 수치 실험 결과 캐논리컬 형식은 훨씬 낮은 오차 비율을 보이며, 특히 $D > 256$일 때 이점이 더욱 커진다.
• 통제되지 않은 결합 차원 설정에서는 오차 비율 $R$이 네트워크 크기 $N$과 함께 증가하며, 캐논리컬 형식은 $N$이 클수록 더 두드러진 안정성 이점을 보인다.
• 평균 케이스 오차 시뮬레이션은 이론적 예측을 확인하며, 다양한 $D$에서 시뮬레이션된 평균 상대 오차와 이론적 평균 상대 오차가 밀접하게 일치한다.