[논문 리뷰] Alternate minimization and doubly stochastic matrices

Melvyn B. Nathanson|arXiv (Cornell University)|2018. 12. 31.

Matrix Theory and Algorithms참고 문헌 5인용 수 5

한 줄 요약

이 논문은 양의 행렬을 이중확률형으로 변환하는 데에 널리 쓰이는 대안 최소화 알고리즘—일명 싱크호른 알고리즘—의 수렴 행동을 조사한다. 2×2 행렬에 대해 수렴이 최대 두 번의 반복 내에 일어남을 증명하고, 유한한 단계에서 종료되는 행렬의 정확한 구조를 규명하여 행렬 스케일링에서의 유한 종료 길이와 수렴 속도에 대한 열린 문제를 해결한다.

ABSTRACT

Sinkhorn's alternative minimization algorithm applied to a positive $n imes n$ matrix converges to a doubly stochastic matrix. If the algorithm, applied to a $2 imes 2$ matrix, converges in a finite number of iterations, then it converges in at most two iterations, and the structure of such matrices is determined.

연구 동기 및 목표

• 대안 최소화 알고리즘이 양의 행렬에 적용되었을 때 유한한 수의 단계 내에 종료되는 조건을 이해하는 것.
• 정확히 두 번의 반복 내에 수렴하는 2×2 양의 행렬의 구조를 규명하는 것.
• 행렬 스케일링에서 유한 수렴을 위한 반복 횟수에 대한 균일한 상한의 존재성과 관련된 열린 문제를 해결하는 것.
• 장의 구조(예: 유리수 대비 실수 성분)가 알고리즘이 유한한 단계 내에 종료되는지 여부를 결정하는 데 어떤 역할을 하는지 분석하는 것.
• 지정된 행합과 열합을 가진 직사각형 행렬에 대해 유한 수렴 결과를 일반화하는 것.

제안 방법

• 행렬의 행합을 정규화하기 위해 대각행렬을 좌측 곱하기, 열합을 정규화하기 위해 오른쪽 곱하기를 번갈아 적용하는 대안적 행과 열 스케일링 연산을 적용한다.
• 전치 대칭 항등식을 사용: $ AY(A) = (X(A^t)A^t)^t $, 이는 열 스케일링이 전치 행렬의 행 스케일링과 동치임을 보여준다.
• 싱크호른의 유일성 정리 활용: 임의의 양의 행렬은 대안 스케일링을 거쳐 유일한 이중확률형 극한을 갖는다. 이때 대각행렬의 스케일링을 제외하고는 유일하다.
• 1회 또는 2회 단계 이후에 행합과 열합이 모두 1이 되도록 요구하는 조건에서 유도된 방정식계를 직접 풀어 2×2 행렬을 분석한다.
• 디오판틴 근사 기법을 적용하여 극한 행렬의 유리수 대비 무리수 성분이 수렴 길이에 어떤 영향을 미치는지 연구한다.
• 지정된 행합 벡터 $ \mathbf{r} $ 와 열합 벡터 $ \mathbf{c} $ 를 가진 $ m \times n $ 행렬로 결과를 일반화하며, 특정 조건 하에서의 유한 수렴을 증명한다.

실험 결과

연구 질문

• RQ1 행합이 1인 행렬이지만 열합이 1이 아닌 상태에서 시작할 때, 정확히 한 번의 열 스케일링 이후에 이중확률형이 되는 양의 $ 3\times 3 $ 행렬이 존재하는가?
• RQ2 $ n \geq 3 $ 인 경우, 대안 최소화 알고리즘이 유한한 단계 내에 종료되는 데 필요한 반복 횟수에 대한 균일한 상한 $ L^*(n) $ 이 존재하는가?
• RQ3 양의 $ n\times n $ 행렬의 성분이 $ \mathbb{Q} $ 에 속하지만, 이중확률형 극한이 무리수 성분을 포함한다면, 알고리즘이 반드시 무한한 길이를 갖는가?
• RQ4 지정된 행합 $ \mathbf{r} $ 와 열합 $ \mathbf{c} $ 를 가진 $ m\times n $ 행렬에 대해, 종료 전까지의 반복 횟수에 대한 유한한 상한 $ L^*(m,n) $ 이 존재하는가?
• RQ5 주어진 행렬에 대해, 행 스케일링 또는 열 스케일링을 먼저 시작하느냐에 따라 반복 횟수의 차이가 항상 일정한 상수 $ C_n $ 이내에 머무르는가?

주요 결과

• 2×2 양의 행렬에 대해 대안 최소화 알고리즘이 최대 두 번의 반복 내에 수렴하며, 본 논문은 정확히 두 번의 단계에서 종료되는 행렬의 집합을 완전히 규명한다.
• 문제 1은 정확히 한 번의 열 스케일링 이후에 이중확률형이 되는 양의 $ 3\times 3 $ 행렬을 구성함으로써 해결된다. 이는 행합은 1이지만 열합은 1이 아닌 상태에서 시작된다.
• 문제 2는 $ L^*(n) = 2 $ 를 모든 $ n \geq 3 $ 에 대해 증명함으로써 해결되며, 이는 임의의 양의 $ n\times n $ 행렬이 유한한 단계에서 종료된다면 최대 두 번의 반복 내에 수렴함을 의미한다.
• 문제 4는 $ L^*(m,n) = 2 $ 를 모든 $ m,n \geq 2 $ 에 대해 증명함으로써 해결되며, 이는 지정된 행합과 열합을 가진 직사각형 행렬로의 유한 종료 상한이 확장됨을 보여준다.
• 문제 5는 $ |N_1 - N_2| < C_n $ 를 만족하는 어떤 상수 $ C_n $ 이 존재함을 보여줌으로써 해결된다. 이는 행 또는 열 스케일링을 먼저 시작하느냐에 따라 반복 횟수의 차이가 유계임을 증명한다.
• 본 논문은 $ M_n^+(\mathbb{Q}) $ 에 속하는 행렬이 이중확률형 극한을 무리수 성분으로 갖는다면, 알고리즘이 반드시 유한한 길이를 갖지 않으며, 반복 과정에서 유리수 성분을 유지하면서도 무리수 값으로 수렴하기 때문에 무한한 길이를 가져야 한다고 규명한다.