[논문 리뷰] Tensor and Matrix Inversions with Applications

Michael Brazell, Na Li외 2명|arXiv (Cornell University)|2011. 09. 18.

Tensor decomposition and applications참고 문헌 38인용 수 3

한 줄 요약

이 논문은 아인슈타인 곱을 사용한 텐서 역행렬의 군론적 프레임워크를 수립하여, 짝수계수 텐서가 일반선형군과 동형인 군을 이룬다는 것을 증명한다. 이는 다중선형 시스템 해법, 텐서 분해(CP 및 다중선형 SVD), 그리고 이분법적 반복 방법(예: 이중공액 그래디언트, 자코비)을 통한 수치적 해법을 가능하게 하며, 고차원 편미분방정식과 양자 모델에의 응용을 수반한다.

ABSTRACT

Higher order tensor inversion is possible for even order. We have shown that a tensor group endowed with the Einstein (contracted) product is isomorphic to the general linear group of degree $n$. With the isomorphic group structures, we derived new tensor decompositions which we have shown to be related to the well-known canonical polyadic decomposition and multilinear SVD. Moreover, within this group structure framework, multilinear systems are derived, specifically, for solving high dimensional PDEs and large discrete quantum models. We also address multilinear systems which do not fit the framework in the least-squares sense, that is, when the tensor has an odd number of modes or when the tensor has distinct dimensions in each modes. With the notion of tensor inversion, multilinear systems are solvable. Numerically we solve multilinear systems using iterative techniques, namely biconjugate gradient and Jacobi methods in tensor format.

연구 동기 및 목표

• 아인슈타인 곱을 사용한 텐서 역행렬을 위한 엄밀한 수학적 프레임워크를 군론을 통해 수립하기.
• 편미분방정식과 양자역학에서 발생하는 고차원 다중선형 시스템의 해법을 가능하게 하기.
• 대칭 제약 조건 하에서 군 동형의 특수한 경우로써 텐서 분해(CP 및 다중선형 SVD)를 유도하기.
• 이중공액 그래디언트, 자코비 등의 행렬 기반 수치적 방법을 텐서 형식으로 확장하여 다중선형 시스템의 반복적 해법을 가능하게 하기.
• 비정사각형 또는 홀수차 텐서의 경우를 최소제곱 설정을 통해 텐서 군 프레임워크 내에서 다루기.

제안 방법

• 아인슈타인 곱에 대한 텐서 군 $(\mathbb{T}, \ast_2)$를 정의하고, 이가 일반선형군 $\mathrm{GL}(n)$과 전단사 사상 $f$를 통해 동형임을 보여준다.
• 이so모르피즘 $f: \mathbb{T} \to \mathbb{M}$을 사용하여, 행렬 군의 성질(결합법칙, 항등원, 역원 존재성)을 텐서로 이행한다.
• 텐서 역행렬을 $\widetilde{\mathcal{A}} = f^{-1}\left( [f(\mathcal{A})]^{-1} \right)$로 정의하여, $\widetilde{\mathcal{A}} \ast_2 \mathcal{A} = \mathcal{A} \ast_2 \widetilde{\mathcal{A}} = \mathscr{E}$를 확보한다. 여기서 $\mathscr{E}$는 항목이 $\delta_{i_1 j_1} \delta_{i_2 j_2}$인 항등원 텐서이다.
• 대칭 조건을 부여한 경우 군 동형의 특수한 경우로써 텐서 분해(CP 및 다중선형 SVD)를 도출하여 기존의 텐서 분해와 연결한다.
• 다중선형 시스템을 해결하기 위해 텐서 형식에서 이중공액 그래디언트 및 자코비 등의 반복 해법을 구현한다. 특히 고차원 편미분방정식과 양자 모델에 적용한다.
• 홀수차 또는 모드 차원이 일관되지 않은 경우를 최소제곱 최적화를 통해 텐서 군 프레임워크 내에서 다룬다.

실험 결과

연구 질문

• RQ1 텐서 역행렬은 어떤 조건에서 가능하며, 군론을 통해 대수적으로 어떻게 정의될 수 있는가?
• RQ2 CP 및 다중선형 SVD와 같은 텐서 분해는 어떤 이소모르피즘 구조에서 유도될 수 있는가?
• RQ3 고차원 편미분방정식과 양자 모델에 대해 다중선형 시스템을 풀기 위해 반복 수치 방법을 텐서 형식으로 어떻게 적응시킬 수 있는가?
• RQ4 텐서 군과 이소모르피즘 프레임워크는 홀수 개의 모드 또는 서로 다른 모드 차원을 가진 텐서를 어떻게 다루는가?
• RQ5 아인슈타인 곱은 다중선형 시스템과 텐서 역행렬을 어떻게 매트릭스 대수와 유사하게 가능하게 하는가?

주요 결과

• 아인슈타인 곱에 대해 짝수계수 텐서의 집합은 일반선형군 $\mathrm{GL}(n)$과 동형이 되는 군을 이룬다. 이는 엄밀한 텐서 역행렬을 가능하게 한다.
• 텐서 군의 항등원은 항목이 $\delta_{i_1 j_1} \delta_{i_2 j_2}$인 텐서 $\mathscr{E}$이며, 아인슈타인 곱에서 항등원으로 작용한다.
• 텐서 역행렬은 이소모르피즘 $f$에 따른 대응 행렬의 역행렬을 통해 정의되며, $\widetilde{\mathcal{A}} \ast_2 \mathcal{A} = \mathcal{A} \ast_2 \widetilde{\mathcal{A}} = \mathscr{E}$를 보장한다.
• 대칭 조건을 가진 인자들에 대해 군 이소모르피즘의 특수한 경우로써 CP 및 다중선형 SVD와 같은 텐서 분해가 유도된다.
• 이중공액 그래디언트 및 자코비와 같은 반복 해법이 고차원 편미분방정식과 양자 모델의 다중선형 시스템 해법을 위해 텐서 형식으로 성공적으로 적응되었다.
• 이 프레임워크는 홀수차 또는 모드 차원이 일관되지 않은 텐서의 비역행렬 케이스에 대해 최소제곱 설정을 통해 확장되어, 과잉 또는 과소 결정된 다중선형 시스템의 수치적 해법을 가능하게 한다.