[논문 리뷰] Improved invariant polytope algorithm and applications

Thomas Mejstrik|arXiv (Cornell University)|2018. 12. 07.

Advanced Numerical Analysis Techniques참고 문헌 28인용 수 8

한 줄 요약

이 논문은 연립 스펙트럴 반경(JSR)을 계산하기 위한 불변 다면체 알고리즘의 크게 최적화된 버전을 제시하며, 단일 스레드 성능에서 최대 3배의 속도 향상을 달성하고 병렬 처리를 가능하게 한다. 이 방법은 빠른 하한값을 제공하는 수정된 Gripenberg 알고리즘과 향상된 미ン코프스키 노름 계산을 결합하여, 차원이 25 이하인 행렬 가족과 비음수 행렬까지 차원 3000까지 정확한 JSR 계산을 가능하게 하며, 다우베시 웨이브릿의 정규성과 코드 용량 계산에의 적용을 포함한다.

ABSTRACT

In several papers of 2013 - 2016, Guglielmi and Protasov made a breakthrough in the problem of the joint spectral radius computation, developing the invariant polytope algorithm which for most matrix families finds the exact value of the joint spectral radius. This algorithm found many applications in problems of functional analysis, approximation theory, combinatorics, etc.. In this paper we propose a modification of the invariant polytope algorithm making it roughly 3 times faster and suitable for higher dimensions. The modified version works for most matrix families of dimensions up to 25, for non-negative matrices the dimension is up to three thousand. Besides we introduce a new, fast algorithm for computing good lower bounds for the joint spectral radius. The corresponding examples and statistics of numerical results are provided. Several applications of our algorithms are presented. In particular, we find the exact values of the regularity exponents of Daubechies wavelets of high orders and the capacities of codes that avoid certain difference patterns.

연구 동기 및 목표

• 행렬 가족의 연립 스펙트럴 반경(JSR) 계산의 계산 난이도를 다루며, 이 문제는 일반적으로 NP-난이도이자 결정 불가능하다고 알려져 있다.
• 많은 행렬 가족에 대해 정확한 JSR를 계산할 수 있는 유일한 방법 중 하나인 불변 다면체 알고리즘의 효율성과 확장성을 향상시키기.
• 고차원 계산(최대 25차원)과 병렬 실행을 가능하게 하여 알고리즘의 실용적 적용 범위를 넓히기.
• 시간에 민감한 응용 프로그램을 지원하고 주 알고리즘의 수렴 속도를 향상시키기 위해 JSR에 대한 빠르고 신뢰할 수 있는 하한값을 계산하는 방법 개발.

제안 방법

• 미니멀 노름 계산을 향상된 선형 프로그래밍 기법과 계산 오버헤드 감소를 통해 최적화함으로써 불변 다면체 알고리즘을 수정한다.
• 스펙트럴 최대화 제품(s.m.p.s)을 효율적으로 탐색하기 위해 그레디(iterative) 접근 방식을 사용하는 수정된 Gripenberg 알고리즘을 도입하여 JSR에 대한 강력한 하한값을 제공한다.
• 공유 메모리 병렬 처리를 사용하여 수정된 불변 다면체 알고리즘을 병렬화하여 다중 코어 시스템에서 더 빠른 계산을 가능하게 한다.
• 극값 노름과 행렬 궤도 영상의 볼록 hull을 사용하여 불변 다면체를 구성하고, 알고리즘의 반복 과정에서 JSR로 수렴하도록 한다.
• 웨이브릿 이론과 코드 이론에서 유래한 행렬 가족의 정확한 JSR 값을 계산하기 위해 알고리즘을 적용하여 성능와 정확도를 검증한다.
• 수정된 Gripenberg 알고리즘을 빠른 프리프로세서로 통합하여 전체 불변 다면체 알고리즘을 실행하기 전에 후보 s.m.p.s를 식별한다.

실험 결과

연구 질문

• RQ1 알고리즘적 및 구현 수준의 최적화를 통해 불변 다면체 알고리즘을 상당히 빠르게 개선할 수 있는가?
• RQ2 수정된 Gripenberg 알고리즘이 신뢰성 있게 스펙트럴 최대화 제품(s.m.p.s)을 식별하고 JSR에 대한 타이트한 하한값을 제공할 수 있는가?
• RQ3 수정된 불변 다면체 알고리즘이 효율적으로 정확한 JSR를 계산할 수 있는 최대 행렬 차원은 얼마인가?
• RQ4 수정된 Gripenberg 알고리즘과 최적화된 불변 다면체 알고리즘의 조합이 웨이브릿 정규성과 코드 용량과 같은 실용적 응용에서 얼마나 효과적인가?
• RQ5 불변 다면체 알고리즘은 현대의 다중 코어 아키텍처를 효과적으로 활용하기 위해 병렬 처리가 가능한가?

주요 결과

• 수정된 불변 다면체 알고리즘은 원래 버전 대비 단일 스레드 성능에서 최대 3배의 속도 향상을 달성한다.
• 알고리즘은 차원 25 이하의 행렬 가족에 대해 정확한 JSR를 계산하는 데 성공했으며, 일부 경우는 차원 40까지 확장된다.
• 비음수 행렬의 경우 알고리즘이 차원 3000까지 확장되어 광범위한 적용 가능성을 보여준다.
• 수정된 Gripenberg 알고리즘은 매우 짧은 시간 내에 정확한 JSR 하한값을 계산하며, 실제로는 정확한 s.m.p.를 빠르게 식별한다.
• 저자들은 다우베시 웨이브릿의 정규성 지수를 차수 42까지 정확히 계산하여 오랫동안 미해결이었던 문제를 해결했다.
• 알고리즘은 특정 차이 패턴을 피하는 코드의 정확한 용량을 계산하여 코드 이론에서의 유용성을 입증했다.