[논문 리뷰] Computing the norm of nonnegative matrices and the log-Sobolev constant of Markov chains

Antoine Gautier, Matthias Hein외 1명|arXiv (Cornell University)|2020. 02. 06.

Matrix Theory and Algorithms참고 문헌 44인용 수 5

한 줄 요약

이 논문은 비음수 행렬의 행렬 노름을 계산하기 위한 거듭제곱 방법의 전역 수렴성을, 일반적인 단조성 및 미분 가능 벡터 노름의 광범위한 클래스에서 입증한다. 이에는 부분 집합의 성분에 대해 ℓ^p-노름으로 구성된 혼합 σ-노름이 포함된다. 양의 행렬 A에 대해 p > q 인 ∥A∥_{q→p}의 다항 시간 수렴을 입증하며, 이는 이전에는 해결이 불가능하다고 여겨졌던 영역이다. 이를 통해 초수렴 부등식을 응용하여 마르코프 체인의 로그-소볼레프 상수에 대한 새로운 하한을 유도한다.

ABSTRACT

We analyze the global convergence of the power iterates for the computation of a general mixed-subordinate matrix norm. We prove a new global convergence theorem for a class of entrywise nonnegative matrices that generalizes and improves a well-known results for mixed-subordinate $\ell^p$ matrix norms. In particular, exploiting the Birkoff--Hopf contraction ratio of nonnegative matrices, we obtain novel and explicit global convergence guarantees for a range of matrix norms whose computation has been recently proven to be NP-hard in the general case, including the case of mixed-subordinate norms induced by the vector norms made by the sum of different $\ell^p$-norms of subsets of entries. Finally, we use the new results combined with hypercontractive inequalities to prove a new lower bound on the logarithmic Sobolev constant of a Markov chain.

연구 동기 및 목표

• 일반적인 비음수 행렬 노름에 대해 ℓ^p-노름을 초월하는 거듭제곱 방법의 전역 수렴 보장이 부족한 문제를 다루기 위해.
• 특히 ∥A∥_{q→p}에서 p > q 인 경우에 발생하는 혼합-하위 노름의 수렴 분석 격차를 메우기 위해.
• 일반적인 단조성 및 미분 가능 벡터 노름, 특히 행렬 성분의 부분집합에 대한 복합 노름을 포함한 광범위한 클래스에 대해 거듭제곱 방법의 적용 가능성을 확장하기 위해.
• 새로운 수렴 결과와 초수렴 부등식을 활용하여 마르코프 체인의 로그-소볼레프 상수에 대한 새로운 하한을 도출하기 위해.

제안 방법

• 저자들은 일반적인 단조성 및 미분 가능 벡터 노름에 대해 비선형 Perron-Frobenius 정리를 도입하여, 거듭제곱 방법의 전역 수렴이 이루어지는 조건을 설정한다.
• 수렴 속도를 제한하기 위해 Birkhoff–Hopf 수축 비율을 핵심 도구로 사용하며, 이 비율이 1보다 작을 경우 전역 수렴을 보장한다.
• 각각의 ∥x∥_{α_i} 가 성분 부분집합에 대한 ℓ^p-노름인 형태의 노름 ∥x∥_α = ∥(∥x∥_{α_1}, …, ∥x∥_{α_d})∥_γ 에도 적용된다.
• 고정점이 거듭제곱 반복의 행렬 노름임을 특성화하기 위해 쌍대 맵핑과 비선형 연산자 이론을 분석에 활용한다.
• 마르코프 체인의 경우, 반군 exp(t(K+K*))의 초수렴성과 로그-소볼레프 상수 사이의 관계를 힐베르트 거리 수축 비율 κ_H 를 통해 연결한다.
• 핵심 기술적 단계는 lim_{t→0} ρ(t)^{-1/t} ≤ e^{2σ} 를 증명하는 것으로, 여기서 ρ(t) = κ_H(exp(t(K+K*))) 이고 σ 는 로그-소볼레프 상수이다.

실험 결과

연구 질문

• RQ1 일반적인 단조성 및 미분 가능 노름, 특히 ℓ^p-노름이 아닌 ∥·∥_α 와 ∥·∥_β 를 갖는 경우, 거듭제곱 방법이 ∥A∥_{β→α} 를 전역적으로 수렴할 수 있는가?
• RQ2 일반 문제의 NP-난이도를 감안할 때, 비음수 행렬 A 에 대해 p > q 인 ∥A∥_{q→p} 에서 거듭제곱 방법이 전역적으로 수렴하는가?
• RQ3 Birkhoff–Hopf 수축 비율을 사용하여 일반 노름 하에서 비음수 행렬에 대한 거듭제곱 방법의 정밀한 수렴 보장을 유도할 수 있는가?
• RQ4 새로운 수렴 결과와 초수렴 부등식을 활용하여 마르코프 체인의 로그-소볼레프 상수에 대한 새로운 하한을 도출할 수 있는가?
• RQ5 반군 exp(t(K+K*)) 의 힐베르트 거리 수축 비율 κ_H 와 로그-소볼레프 상수 σ 사이의 관계는 무엇인가?

주요 결과

• Birkhoff–Hopf 수축 비율이 1보다 작을 경우, 일반적인 단조성 및 미분 가능 벡터 노름의 광범위한 클래스에서, 모든 성분이 음수가 아닌 행렬 A 에 대해 거듭제곱 방법이 ∥A∥_{β→α} 로 전역 수렴한다.
• 양의 행렬 A 에 대해 p > q 인 ∥A∥_{q→p} 에 대한 첫 번째 전역 수렴 보장을 제공하며, 이는 이 영역에서 다항 시간 계산이 가능함을 의미한다.
• 양의 행렬에 대해 ∥A∥_{2→q} (q > 2) 가 다항 시간 내에 계산 가능하다는 것을 증명하며, 이는 이전까지 알려지지 않은 결과이다.
• 로그-소볼레프 상수 σ 에 대한 새로운 하한을 도출한다: lim_{t→0} ρ(t)^{-1/t} ≤ e^{2σ}, 여기서 ρ(t) = κ_H(exp(t(K+K*)))이다.
• 이중 상태 마르코프 체인의 경우 이 하한은 날카롭게 유지된다: lim_{t→0} ρ(t)^{-1/t} = e^{2√(ab)} 이며, σ ≥ √(ab) 이다. 이는 a ≠ b 일 때 알려진 정확한 값과 일치한다.
• 복합 노름, 예를 들어 ∥x∥_α = ∥(∥x_{sub}∥_{p_1}, ∥x_{sub}∥_{p_2})∥_γ 에도 결과가 확장되며, 이러한 노름을 포함하는 비볼록 최적화 문제의 다항 시간 해법이 가능해진다.