[論文レビュー] A Kogbetliantz-type algorithm for the hyperbolic SVD

Vedran Novaković, Sanja Singer|arXiv (Cornell University)|Mar 14, 2020

Matrix Theory and Algorithms参考文献 34被引用数 5

ひとこと要約

本稿では、実数および複素数の正方行列の双曲型特異値分解（HSVD）を計算するためのJ-Kogbetliantzアルゴリズムを提示する。この手法は、二重側かつ並列的なKogbetliantz型の手法を採用している。2×2のHSVDの正確な公式を導出し、浮動小数点演算で実装した。非ユニタリ変換による影響を受けるが、動的ピボット戦略とヒューリスティックな収束基準を導入することで、安定性と正確性を確保した。小規模から中規模の行列サイズにおいて、数値実験で高い正確性を示した。

ABSTRACT

In this paper a two-sided, parallel Kogbetliantz-type algorithm for the hyperbolic singular value decomposition (HSVD) of real and complex square matrices is developed, with a single assumption that the input matrix, of order $n$, admits such a decomposition into the product of a unitary, a non-negative diagonal, and a $J$-unitary matrix, where $J$ is a given diagonal matrix of positive and negative signs. When $J=\pm I$, the proposed algorithm computes the ordinary SVD. The paper's most important contribution -- a derivation of formulas for the HSVD of $2 imes 2$ matrices -- is presented first, followed by the details of their implementation in floating-point arithmetic. Next, the effects of the hyperbolic transformations on the columns of the iteration matrix are discussed. These effects then guide a redesign of the dynamic pivot ordering, being already a well-established pivot strategy for the ordinary Kogbetliantz algorithm, for the general, $n imes n$ HSVD. A heuristic but sound convergence criterion is then proposed, which contributes to high accuracy demonstrated in the numerical testing results. Such a $J$-Kogbetliantz algorithm as presented here is intrinsically slow, but is nevertheless usable for matrices of small orders.

研究の動機と目的

• 実数および複素数の正方行列の双曲型特異値分解（HSVD）のための二重側かつ並列的なKogbetliantz型アルゴリズムの開発。
• 浮動小数点演算で実装可能な正確な2×2 HSVD公式の導出と実装を、コアとなる構成要素として提供。
• 双曲型変換の影響を考慮し、非ユニタリ変換によって生じる不安定性を抑制するため、動的ピボット順序付け戦略の再設計。
• 数値計算における高い正確性を保証する、ヒューリスティック的だが頑健な収束基準の提案。

提案手法

• 2×2の実数および複素数行列のHSVDに対する正確な公式を導出し、浮動小数点演算での数値的実装を含む。
• イテレーション行列に双曲型変換を2×2の更新ステップで逐次適用し、構造Gk = U∗k Gk−1 Vkを維持する。
• 非ユニタリ変換によって生じる不安定性を管理するため、データ依存のピボット重みに基づいた動的ピボット戦略を再設計。
• 非対角要素のフロベニウスノルムと対角要素の収束に基づくヒューリスティックな収束基準を採用し、数値的検証を実施。
• OpenMPを用いてマルチコア並列化を実装し、複数の2×2変換を並列で処理。
• 収束の頑健性を向上させるために、ピボット重みの大きさと符号の両方を考慮した修正されたピボット順序付けを採用。

実験結果

リサーチクエスチョン

• RQ1 非ユニタリ変換の課題を考慮しても、Kogbetliantz型アルゴリズムが双曲型特異値分解（HSVD）に適応可能かどうか。
• RQ2 双曲型変換が用いられる場合、収束の安定性を確保するためには動的ピボット戦略をどのように変更すべきか。
• RQ3 浮動小数点演算における二重側HSVDアルゴリズムに、効果的で信頼性の高い収束基準は何か。
• RQ4 小規模から中規模の行列サイズにおいて、アルゴリズムの正確性と収束速度はどの程度か。
• RQ5 OpenMPを用いた並列化が、数値的安定性と正確性を維持しながら効率的に実現可能かどうか。

主な発見

• J-Kogbetliantzアルゴリズムは、双精度で特異値および関連するエルミート行列の固有値の相対誤差が10−12未満に抑えられ、高い正確性を達成した。
• ヒューリスティックな収束基準は収束を効果的に検出でき、2048次までの行列において通常6〜13サイクル程度の反復で収束した。
• データ依存の重みに基づく動的ピボット戦略は、非対角ノルムの増大を効果的に制御し、悪条件の変換に対しても発散を防いだ。
• 並列マルチステップ実装は、逐次バージョンを3桁以上上回る性能を示し、並列モードでのみ実用的であることが明らかになった。
• 複素行列の場合、アルゴリズムはフロベニウスノルムおよび対角収束に加え、非対角要素の偏角についても収束しているように見え、追加の収束挙動を示した。