[논문 리뷰] Multilevel quasiseparable matrices in PDE-constrained optimization

Jacek Gondzio, Pavel Zhlobich|arXiv (Cornell University)|2011. 12. 27.

Matrix Theory and Algorithms참고 문헌 25인용 수 5

한 줄 요약

이 논문은 다차원 PDE-제약 최적화에서 선형 시간 연산을 가능하게 하는 저질서 구조 행렬인 다수준 준분리 행렬을 소개한다. PDE 행렬과 그 역행렬을 이 구조로 근사함으로써, 저비용의 메시 독립형 조건부 행렬을 개발하여 케리로프 해법기가 대규모의 안장점 시스템을 거의 선형 시간 내에 해결할 수 있도록 한다. 이는 최적 제어 문제에 대해 최적 복잡도를 달성한다.

ABSTRACT

Optimization problems with constraints in the form of a partial differential equation arise frequently in the process of engineering design. The discretization of PDE-constrained optimization problems results in large-scale linear systems of saddle-point type. In this paper we propose and develop a novel approach to solving such systems by exploiting so-called quasiseparable matrices. One may think of a usual quasiseparable matrix as of a discrete analog of the Green's function of a one-dimensional differential operator. Nice feature of such matrices is that almost every algorithm which employs them has linear complexity. We extend the application of quasiseparable matrices to problems in higher dimensions. Namely, we construct a class of preconditioners which can be computed and applied at a linear computational cost. Their use with appropriate Krylov methods leads to algorithms of nearly linear complexity.

연구 동기 및 목표

• PDE-제약 최적화 문제에서 발생하는 대규모 안장점 시스템을 풀이하는 데서 발생하는 계산적 병목 현상을 해결하기 위해.
• 이전에 1차원 문제에 국한되어 있던 준분리 행렬의 적용 범위를 다차원 PDE로 확장하기 위해.
• 반복 해법기가 PDE 행렬의 고비용 직접 분해를 피하고 거의 선형 시간 내에 수렴할 수 있도록 하는 조건부 행렬을 개발하기 위해.
• 새로운 다수준 준분리 구조를 사용하여 행렬 역행렬, 산술 연산 및 분해가 O(n) 연산 내에서 수행될 수 있음을 보여주기 위해.

제안 방법

• 더 높은 수준의 매개변수가 하위 계층의 준분리 행렬인 다수준 준분리라는 새로운 행렬 클래스를 제안한다.
• 계층적 매개변수화를 사용하여 O(n)개의 매개변수로 표현된 행렬을 통해 효율적인 저장 및 조작을 가능하게 한다.
• 다수준 준분리 행렬에 대한 빠른 산술 연산(덧셈, 곱셈, 역행렬)을 O(n)개의 부동소수점 연산 내에서 수행한다.
• PDE 행렬과 그 역행렬을 다수준 준분리 구조로 근사하여 안장점 시스템을 위한 조건부 행렬을 구성한다.
• 새로운 조건부 행렬을 사용하여 조건부 공액 기울기(Preconditioned Conjugate Gradient, PCG) 방법을 적용하여 이산 최적 제어 문제를 해결한다.
• 정규 방정식 행렬 S를 다수준 준분리 형태로 압축하기 위해 순서 감소 알고리즘을 구현한다.

실험 결과

연구 질문

• RQ1 준분리 행렬은 1차원 문제에서 다차원 문제로 일반화될 수 있는가? 이를 통해 PDE-제약 최적화 문제의 효율적 해법이 가능해지는가?
• RQ2 다수준 준분리 행렬은 다차원에서 행렬 역행렬 및 산술 연산을 선형 시간 내에 수행할 수 있는가?
• RQ3 PDE-제약 최적 제어에서 발생하는 안장점 시스템을 위한 다수준 준분리 행렬 기반 메시 독립형 조건부 행렬을 구성할 수 있는가?
• RQ4 제안된 방법은 대규모 문제에 대해 실질적으로 거의 선형 복잡도를 달성하는가?
• RQ5 다수준 준분리 행렬의 적용 범위는 대칭 타원형 PDE를 초월하여 어떤 영역까지 확장될 수 있는가?

주요 결과

• 제안된 다수준 준분리 조건부 행렬은 PDE-제약 최적화 문제에서 메시 독립 수렴성을 달성한다.
• 시스템을 푸는 데 소요되는 CPU 시간이 문제 크기와 선형적으로 증가하여 실질적인 거의 선형 복잡도를 확인한다.
• β = 10⁻² 및 정밀도 10⁻⁴일 때, 총 소요 시간은 n=12일 때 1.93초에서 n=18일 때 146.51초로 증가하여 선형 스케일링을 보였다.
• β = 10⁻⁵ 및 정밀도 10⁻⁸일 때, 총 소요 시간은 n=12일 때 1.88초에서 n=18일 때 146.40초로 증가하여 다시 선형 증가를 확인했다.
• PCG 반복 횟수는 낮고 안정적으로 유지되었으며(1~5회 반복), 강건성과 메시 독립성을 나타낸다.
• 상태 u와 제어 f 해는 정확하게 복원되었으며, u에 대한 상대 오차는 β=10²일 때 0.03에서 β=10⁻²일 때 1.9e-4로 감소하였다.