[논문 리뷰] Iterative Compression-Decimation Scheme for Tensor Network Optimization

Zhi-Cheng Yang, Stefanos Kourtis외 3명|arXiv (Cornell University)|2017. 08. 29.

Tensor decomposition and applications인용 수 3

한 줄 요약

이 논문은 정규 격자 위의 일반화된 정점 모델에 대해, 이동 불변성이나 경계 조건에 관계없이 텐서 네트워크를 최적화하기 위한 반복적인 압축-감소 알고리즘을 제안한다. 국소적 제약 조건을 수축-분해 스윕을 통해 전파하고 격자를 굴곡시키는 방식으로, 텐서 차원을 제어하면서 대규모 시스템에 대한 전체 텐서 추적의 정확한 계산을 가능하게 하며, 성공적으로 고에너지 상태의 엔트로피 밀도를 계산하고 고전적으로 다루기 어려운 역행성 계산 문제를 해결한다.

ABSTRACT

Motivated by statistical physics models connected to computation problems, we devise a tensor network technique that is suited to problems with or without translation invariance and with arbitrary boundary conditions. We introduce a compression-decimation algorithm as an efficient iterative scheme to optimize tensor networks that encode generalized vertex models on regular lattices. The algorithm first propagates local constraints to longer ranges via repeated contraction-decomposition sweeps over all lattice bonds, thus achieving compression on a given length scale. It then decimates the lattice via coarse-graining tensor contractions. Repeated iterations of these two steps allow us to gradually collapse the tensor network while keeping the tensor dimensions under control, such that ultimately the full tensor trace can be taken for relatively large systems. As a benchmark, we demonstrate the efficiency of the algorithm by computing the ground state entropy density of the planar ice model and the eight-vertex model. We then apply it to reversible classical computational problems based on a recently proposed vertex model representation of classical computations [Nat. Commun. 8, 15303 (2017)]. Our protocol allows us to obtain the exact number of solutions for computations where a naive enumeration would take astronomically long times, suggesting that the algorithm is a promising practical tool for the solution of a plethora of problems in physics and computer science.

연구 동기 및 목표

• 이동 불변성이 없거나 임의의 경계 조건을 가진 시스템에 적용 가능한 텐서 네트워크 최적화 방법을 개발하기 위해.
• 대규모 시스템에서 텐서 네트워크 수축 과정 동안 텐서 랭크 증가를 제어하는 데 도전하는 데.
• 직접 열거가 불가능한 정도로 큰 시스템에 대해 전체 텐서 추적의 정확한 계산을 가능하게 하기 위해.
• 통계역학 및 역행성 고전 계산 문제에 텐서 네트워크 기법을 확장하기 위해.
• 복잡한 모델에 대해 정확성과 계산 가능성을 균형 잡는 실용적인 반복적 방법을 제공하기 위해.

제안 방법

• 모든 격자 결합을 대상으로 반복적인 수축-분해 스윕을 수행하여 국소적 제약 조건을 더 긴 거리로 전파하고, 주어진 길이 척도에서 압축을 달성한다.
• 텐서 수축을 통해 굴곡을 적용하여 격자를 감소시켜 시스템 크기를 줄이면서 필수 정보를 유지한다.
• 반복적인 사이클 동안 압축(제약 조건 전파)과 감소(격자 감소)를 번갈아 적용한다.
• 반복적 정밀 조정을 통해 텐서 차원을 제어하여 결국 전체 텐서 추적 평가가 가능해진다.
• 알고리즘은 일반화된 정점 모델, 즉 평면 빙하 모델과 여덟정점 모델, 그리고 역행성 고전 계산 표현에 적용된다.
• 알고리즘은 확장 가능하고 효율적이며, 계산 비용의 지수적 증가를 피한다.

실험 결과

연구 질문

• RQ1 이동 불변성 여부와 관계없이 임의의 경계 조건을 가진 시스템에 대해 작동하는 텐서 네트워크 방법을 개발할 수 있는가?
• RQ2 반복 계산 중에 텐서 네트워크 수축을 어떻게 최적화하여 텐서 차원을 관리 가능한 수준으로 유지할 수 있는가?
• RQ3 반복적인 압축-감소 방식이 직접 열거가 불가능한 대규모 시스템에서 전체 텐서 추적의 정확한 계산을 가능하게 할 수 있는가?
• RQ4 이 방법은 고전적으로 다루기 어려운 역행성 계산 문제를 어느 정도 해결할 수 있는가?
• RQ5 이 알고리즘은 복잡한 정점 모델에 대해 계산 비용을 크게 줄이면서도 정확성을 유지하는가?

주요 결과

• 알고리즘은 대규모 격자에서 평면 빙하 모델과 여덟정점 모델의 고에너지 상태 엔트로피 밀도를 성공적으로 계산하였다.
• 기본적인 열거 방식으로는 천문학적 시간이 소요되는 역행성 고전 계산 문제의 해의 수를 정확하게 열거할 수 있게 되었다.
• 반복 단계 전반에 걸쳐 제어된 텐서 차원을 유지하여 비교적 큰 시스템에 대해 전체 텐서 추적 평가가 가능해졌다.
• 압축-감소 사이클은 효과적으로 제약 조건을 전파하고 시스템 크기를 줄였지만 정확도 손실이 크지 않았다.
• 이 방법은 통계역학 및 컴퓨터 과학 분야의 광범위한 모델군에 일반적으로 적용 가능하며, 이동 불변성이 없는 경우에도 적용 가능하다.
• 결과는 표준 열거 기법으로는 계산이 불가능한 문제를 해결하는 데 있어 알고리즘의 실용적 유용성을 입증한다.