[논문 리뷰] Tensor Network Generator-Enhanced Optimization for Traveling Salesman Problem

Ryo Sakai, Chen-Yu Liu|arXiv (Cornell University)|2026. 02. 12.

Tensor decomposition and applications인용 수 0

한 줄 요약

TN-GEO는 자동회귀 마스킹이 있는 텐서 네트워크 보른 머신을 사용하여 유효한 TSP 순회를 생성하고 소프트맥스 가중 GEO로 최적화하여 TSPLIB의 최대 52 도시까지의 고전 휴리스틱보다 성능을 개선합니다.

ABSTRACT

We present an application of the tensor network generator-enhanced optimization (TN-GEO) framework to address the traveling salesman problem (TSP), a fundamental combinatorial optimization challenge. Our approach employs a tensor network Born machine based on automatically differentiable matrix product states (MPS) as the generative model, using the Born rule to define probability distributions over candidate solutions. Unlike approaches based on binary encoding, which require $N^2$ variables and penalty terms to enforce valid tour constraints, we adopt a permutation-based formulation with integer variables and use autoregressive sampling with masking to guarantee that every generated sample is a valid tour by construction. We also introduce a $k$-site MPS variant that learns distributions over $k$-grams (consecutive city subsequences) using a sliding window approach, enabling parameter-efficient modeling for larger instances. Experimental validation on TSPLIB benchmark instances with up to 52 cities demonstrates that TN-GEO can outperform classical heuristics including swap and 2-opt hill-climbing. The $k$-site variants, which put more focus on local correlations, show better results compared to the full-MPS case.

연구 동기 및 목표

• 조합 최적화를 위한 양자에서 영감을 받은 텐서 네트워크의 사용 필요성(특히 TSP)에 대한 동기 부여.
• 바이너리 인코딩 및 페널티 항을 피하는 순열 정확성 생성 모델 개발.
• 로컬 k-그램을 효율적으로 모델링하고 확장 가능한 학습을 가능하게 하는 슬라이딩 윈도우를 사용하는 k-site MPS 변형 도입.
• 해당 솔루션 분포를 점진적으로 다듬기 위해 온도 스케줄링과 GEO를 통합.
• TSPLIB 인스턴스에서 TN-GEO를 고전적인 힐 클라이밍 휴리스틱과 경험적으로 벤치마킹

제안 방법

• TSP 순회를 x1,...,xN의 N개의 정수 도시 지수 시퀀스로 표현하며 xk는 {0,...,N-1}에 속한다.
• Born 규칙을 통해 P(x)를 모델링하고 자동회귀 마스킹으로 샘플링해 유효한 순회를 보장하기 위해 행렬 곱 상태(MPS) Born 머신을 사용한다.
• tour 비용에서 파생된 유한 온도 소프트맥스 타깃 분포를 매칭하고 지수적 온도 스케줄링을 사용하는 Generator-Enhanced Optimization(GEO) 방식으로 학습한다.
• 거부 샘플링 없이 순열 제약을 강제하기 위해 마스킹이 있는 자동회귀 샘플링 절차를 채택한다.
• 로컬 부분 시퀀스인 k-그램의 분포를 학습하기 위해 sliding window를 사용해 매개변수 효율적인 모델링이 가능하도록 하는 k-site MPS 변형을 도입한다.
• DMRG 대신 자동 미분(AD)을 사용해 MPS를 학습하고 DMRG 스타일 업데이트와 비교한다.

실험 결과

연구 질문

• RQ1 순열 기반 MPS Born 머신이 페널티 항 없이도 효율적으로 유효한 TSP 순회를 생성할 수 있는가?
• RQ2 온도 스케줄링과 함께 GEO가 TSP에 대해 고전적 힐 클라이밍 휴리스틱보다 개선되는가?
• RQ3 결합 차원(bond dimension)이 TN-GEO의 샘플 품질과 최적화 결과에 어떤 영향을 미치는가?
• RQ4 중간의 k-site MPS(k < N)가 TSP에 대한 표현력과 계산 효율성 사이에 유리한 균형을 제공하는가?
• RQ5 TN-GEO 접근법은 TSPLIB 인스턴스(약 50개 도시)까지 확장 가능성이 있는가?

주요 결과

Instance	Swap	2-opt	k=2	k=4	k=8	full
burma14	7.1%	3.76%	0%	0%	0%	0%
ulysses16	0.933%	0.787%	0%	0%	0%	0%
ulysses22	21.6%	1.47%	0%	0%	0%	0%
att48	26.7%	3.45%	6.67%	0%	0%	6.13%
eil51	30%	4.93%	3.05%	0%	0%	3.99%
berlin52	29.3%	16.5%	3.9%	0%	0%	4.18%

• 자동회귀 마스킹으로 TN-GEO는 구성상 유효한 순회를 생성하므로 거부 샘플링을 피한다.
• 결합 차원을 증가시키면 MPS가 소프트맥스 타깃 분포를 근사하고 더 짧은 순회를 샘플링하는 능력이 향상된다.
• 작은 인스턴스에서 TN-GEO는 최적 순회에 근접하거나 최적 순회에 도달하며, 더 큰 인스턴스에서는 k=4 또는 k=8인 k-site 변형이 일관되게 최적 순회에 도달하고 스왑 및 2-opt 기반에 비해 우수하다.
• 적당한 크기의 k-site 모델은 표현력과 효율성 사이에서 균형을 이뤄 여러 TSPLIB 인스턴스에서 전체 MPS와 너무 낮은 k=2 모델보다 우수하다.
• TSPLIB 인스턴스(14–52 도시)에서 TN-GEO는 k=2, k=4, 및 k=8로 일부 소형/중형 인스턴스에서 0% 간격을 달성하고 전통적 힐 클라이밍 방법보다 우수하다. 더 큰 인스턴스(att48, eil51, berlin52)에서는 k=4와 k=8이 최적 순회를 달성하는 반면 전체 MPS는 때때로 어려움을 겪는다.
• 연구는 로컬 k-그램 상관관계가 거의 최적에 가까운 TSP 순회를 결정하며 제약이 있는 표현력이 GEO 내 탐색을 개선할 수 있음을 시사한다.