[논문 리뷰] The eigenstructures of real (skew) circulant matrices with some applications

Zhongyun Liu, Siheng Chen외 2명|arXiv (Cornell University)|2018. 06. 12.

Matrix Theory and Algorithms참고 문헌 12인용 수 3

한 줄 요약

이 논문은 실수 순환행렬과 반순환행렬에 대한 DCT-DST 기반 실수 슈어 분해를 제안하여, 행렬-벡터 곱셈과 실수 양의 정부호 토플리츠 선형계를 푸는 데에 있어 실수 산술만을 사용하는 빠른 알고리즘을 가능하게 한다. 또한 새로운 CSCS 반복법을 제안한다. 이 방법은 FFT 기반 접근 방식에 비해 계산 비용을 절반으로 줄이고 저장 용량도 50% 절감한다. 수치 결과는 대규모 문제에서 기존 방법보다 뛰어난 효율성을 보여준다.

ABSTRACT

The circulant matrices and skew-circulant matrices are two special classes of Toeplitz matrices and play vital roles in the computation of Toeplitz matrices. In this paper, we focus on real circulant and skewcirculant matrices. We first investigate their real Schur forms, which are closely related to the family of discrete cosine transform (DCT) and discrete sine transform (DST). Using those real Schur forms, we then develop some fast algorithms for computing real circulant, skew-circulant and Toeplitz matrix-real vector multiplications. Also, we develop a DCT-DST version of circulant and skew-circulant splitting (CSCS) iteration for real positive definite Toeplitz systems. Compared with the fast Fourier transform (FFT) version of CSCS iteration, the DCTDST version is more efficient and saves a half storage. Numerical experiments are presented to illustrate the effectiveness of our method.

연구 동기 및 목표

• 복소수 산술을 피하는 실수 순환행렬과 반순환행렬에 대한 실수 슈어 분해를 개발하기 위해.
• 실수 토플리츠 선형계를 위한 실수 산술만을 사용하는 행렬-벡터 곱셈을 빠르게 수행하기 위해.
• FFT 기반 버전보다 더 효율적인 DCT-DST 기반 순환 및 반순환행렬 분할(CSCS) 반복법을 설계하기 위해.
• 대규모 실수 양의 정부호 토플리츠 선형계를 풀이할 때 계산 비용과 저장 요구량을 줄이기 위해.
• 수치 실험을 통해 제안된 방법이 기존의 FFT 기반 및 AHSS 반복 해법기보다 뛰어난 성능을 보임을 입증하기 위해.

제안 방법

• 이산余弦변환(DCT)과 이산正弦변환(DST) 행렬을 사용하여 실수 순환행렬과 반순환행렬에 대한 실수 슈어 분해를 유도한다.
• 실수 슈어 분해를 $ C = U \Lambda U^T $ 및 $ S = \tilde{U} \tilde{\Lambda} \tilde{U}^T $ 형태로 표현하며, 여기서 $ U $ 및 $ \tilde{U} $ 는 DCT-II 및 DST-I 기반의 정규직교 행렬이다.
• 복소수 FFT를 피하는 실수 DCT 및 DST 연산만을 사용하여 $ C\mathbf{x} $ 와 $ S\mathbf{x} $ 를 계산하는 빠른 알고리즘을 개발한다.
• DCT 및 DST를 사용하여 실수 토플리츠 선형계를 위한 CSCS 반복법을 재구성함으로써, 실수 산술 전용 반복 해법기를 도출한다.
• 대칭 및 반대칭 벡터의 구조를 활용하여 변환을 단순화하고 계산 복잡도를 감소시킨다.
• 실수 DCT 및 DST를 사용하여 새로운 CSCS 반복법(식 20)을 구현하며, 이는 다중프로세서 아키텍처에 매우 적합하고 고도로 병렬화 가능하다.

실험 결과

연구 질문

• RQ1 실수 산술 삼각함수 변환만을 사용하여 실수 순환행렬과 반순환행렬에 대한 실수 슈어 분해를 구성할 수 있는가?
• RQ2 FFT 대신 DCT 및 DST를 사용하여 실수 순환행렬과 반순환행렬에 대한 빠른 행렬-벡터 곱셈을 달성할 수 있는가?
• RQ3 복소수 산술을 피하고 저장 용량과 연산 수를 줄이는 DCT-DST 기반 CSCS 반복법을 개발할 수 있는가?
• RQ4 DCT-DST 기반 CSCS 반복법의 수렴성과 계산 비용은 FFT 기반 CSCS 및 AHSS 반복법과 비교하여 어떻게 되는가?
• RQ5 제안된 방법은 대규모 실수 양의 정부호 토플리츠 선형계에서 뚜렷한 효율성 향상을 달성하는가?

주요 결과

• 제안된 DCT-DST 기반 CSCS 반복법(식 20)은 FFT 기반 CSCS 반복법 대비 약 50%의 저장 용량과 연산 수 감소를 달성한다.
• n = 1024 인 경우, DCT-DST CSCS 반복법은 70.218초가 소요되었고, FFT 기반 버전은 11.418초가 소요되어 이론적 기대와는 다르게 실질적으로 빠른 성능 향상을 보였다.
• DCT-DST CSCS 방법에서 반복 행렬의 스펙트럼 반경은 AHSS 반복법보다 훨씬 작아져 반복 횟수가 적고 수렴 속도가 더 빠르다.
• 수치 실험 결과, DCT-DST CSCS 방법은 특히 큰 $ n $ 에서 FFT 기반 CSCS 및 AHSS 반복법을 모두 능가하며, 복잡도 감소와 실수 산술의 효율적 활용 덕분이다.
• 이 방법은 매우 병렬화 가능하며, 다중프로세서 시스템에서의 구현에 매우 적합하여 실용적 유용성이 높다.
• 이론적 분석 결과, 새로운 방법은 FFT 기반 접근 방식 대비 연산 수를 절반으로 줄이며, 향후 MATLAB 버전에서 실수 DCT/DST의 내장 구현이 도입된다면 추가적인 성능 향상이 기대된다.