[논문 리뷰] Tensor GMRES and Golub-Kahan Bidiagonalization methods via the Einstein product with applications to image and video processing

M. El Guide, Alaa El Ichi외 2명|arXiv (Cornell University)|2020. 05. 15.

Tensor decomposition and applications참고 문헌 28인용 수 11

한 줄 요약

이 논문은 색상 이미지 및 영상 복원에서 발생하는 불량한 다중선형 시스템을 해결하기 위해 아인슈타인 곱을 사용하는 텐서 GMRES 및 글로벌 골루브-카한 이단형화 방법을 제안한다. 텐서 구조와 티호노프 정규화를 활용함으로써 계산 복잡도를 감소시키면서도 효율적이고 안정적인 해를 달성하며, 합성 흐린 이미지 및 영상에 대해 뛰어난 복원 품질과 속도를 보여준다.

ABSTRACT

In the present paper, we are interested in developing iterative Krylov subspace methods in tensor structure to solve a class of multilinear systems via Einstein product. In particular, we develop global variants of the GMRES and Gloub--Kahan bidiagonalization processes in tensor framework. We further consider the case that mentioned equation may be possibly corresponds to a discrete ill-posed problem. Applications arising from color image and video restoration are included.

연구 동기 및 목표

• 색상 이미지 및 영상 처리에서 유도된 대규모 다중선형 시스템을 효율적으로 해결하는 데 있어 텐서 구조를 활용한다.
• 불량 문제를 다룰 수 있도록 아인슈타인 곱을 사용하는 텐서 방정식에 특화된 안정적인 반복적 크릴로프 부분공간 방법을 개발한다.
• 소음이 많고 조건이 나쁜 시스템의 해를 안정화하기 위해 티호노프 정규화를 텐서 프레임워크에 통합한다.
• 데이터를 벡터화하는 대신 다차원 텐서 구조를 활용하여 계산 복잡도를 감소시킨다.
• 정량적 성능 지표를 사용하여 실제 이미지 및 영상 복원 작업에서 제안된 방법의 효과성을 입증한다.

제안 방법

• 다차원 데이터를 위해 아인슈타인 곱을 사용하여 텐서 방정식 $\mathcal{A} \ast_N \mathcal{X} = \mathcal{C}$ 로 이미지/영상 복원 문제를 수식화한다.
• 아인슈타인 곱을 통해 텐서 위에서 직접 작동하는 글로벌 GMRES 및 글로벌 골루브-카한 이단형화 과정을 적용한다.
• 불량 문제의 해를 안정화하기 위해 텐서 시스템에 티호노프 정규화를 적용한다.
• 잔차 원칙과 일반화된 교차검증(GCV)을 사용하여 최적의 정규화 파rameter를 자동으로 선택한다.
• 잔차 노름과 수렴 기준에 기반한 조기 종료 전략을 포함한 반복적 해법을 구현한다.
• 전체 계산 과정에서 텐서의 원래 구조를 유지하여 행렬이나 벡터로 편개하는 계산 부담을 방지한다.

실험 결과

연구 질문

• RQ1 아인슈타인 곱을 사용하여 텐서 방정식에 크릴로프 부분공간 방법을 효과적으로 확장할 수 있는가?
• RQ2 정규화된 텐서 기반 GMRES 및 골루브-카한 방법은 기존의 행렬 기반 접근법에 비해 정확도와 계산 비용 측면에서 어떻게 비교되는가?
• RQ3 티호노프 정규화는 복원된 색상 이미지 및 영상의 안정성과 품질에 어떤 영향을 미치는가?
• RQ4 GCV 또는 잔차 원칙을 통한 자동 정규화 파rameter 선택이 텐서 프레임워크에서 성공적으로 적용될 수 있는가?
• RQ5 대규모 이미지 및 영상 처리 작업에서 텐서 구조를 유지함으로써 계산 복잡도는 어느 정도 감소하는가?

주요 결과

• 노이즈 수준 $10^{-3}$ 인 색상 이미지 복원에서, 알고리즘 4(GGKB)는 PSNR 24.37 dB, 상대 오차 $4.51 \times 10^{-2}$ 를 달성하여 알고리즘 2(GMRES)보다 PSNR과 오차 측면에서 뛰어난 성능을 보였다.
• 노이즈 수준 $10^{-2}$ 일 때, 알고리즘 4는 PSNR 20.97 dB, 상대 오차 $6.67 \times 10^{-2}$ 를 기록했고, 알고리즘 2는 20.60 dB와 $6.96 \times 10^{-2}$ 를 기록하여 일관된 우수성을 보였다.
• 영상 복원에서, 알고리즘 4는 노이즈 수준 $10^{-3}$ 에서 PSNR 19.24 dB 를 달성했고, 알고리즘 2는 15.48 dB 를 기록하여 품질 향상이 뚜렷하게 나타났다.
• 영상 복원에서 알고리즘 4의 CPU 시간은 노이즈 수준 $10^{-3}$ 에서 27.37초였고, 알고리즘 2보다 38.93초보다 유의미하게 낮았다.
• 이미지 복원에서 알고리즘 4는 61단계 후 잔차 원칙을 통해 $\mu_{\ell} = 2.95 \times 10^{-4}$ 를 선택하여 오차 허용 범위를 충족시켰다.
• 영상 복원에서 잔차 원칙은 $\ell = 59$ 단계에서 $\mu_{\ell} = 1.06 \times 10^{-4}$ 로 만족되었으며, 효과적인 정규화와 수렴이 확인되었다.