[논문 리뷰] Conformal Computing: Algebraically connecting the hardware/software boundary using a uniform approach to high-performance computation for software and hardware applications

Lenore Mullin, James E. Raynolds|ArXiv.org|2008. 03. 17.

Quantum Computing Algorithms and Architecture참고 문헌 2인용 수 8

한 줄 요약

이 논문은 수학적 배열(MoA)과 ψ-계산법을 사용하여 하드웨어 및 소프트웨어 최적화를 통합하는 형식적 대수적 방법인 Conformal Computing를 소개한다. ψ-축약을 통한 수학적으로 증명 가능한 고성능 코드 생성을 가능하게 하여, 데이터 접근 패턴을 재구성하고 다양한 구현 간의 알고리즘 동치성을 증명함으로써 캐시 최적화된 FFT에서 2–4배의 성능 향상을 달성한다.

ABSTRACT

We present a systematic, algebraically based, design methodology for efficient implementation of computer programs optimized over multiple levels of the processor/memory and network hierarchy. Using a common formalism to describe the problem and the partitioning of data over processors and memory levels allows one to mathematically prove the efficiency and correctness of a given algorithm as measured in terms of a set of metrics (such as processor/network speeds, etc.). The approach allows the average programmer to achieve high-level optimizations similar to those used by compiler writers (e.g. the notion of "tiling"). The approach presented in this monograph makes use of A Mathematics of Arrays (MoA, Mullin 1988) and an indexing calculus (i.e. the psi-calculus) to enable the programmer to develop algorithms using high-level compiler-like optimizations through the ability to algebraically compose and reduce sequences of array operations. Extensive discussion and benchmark results are presented for the Fast Fourier Transform and other important algorithms.

연구 동기 및 목표

• 고성능 계산을 위한 하드웨어/소프트웨어 경계를 형식적이고 대수적 프레임워크로 통합하는 것.
• 메모리 및 프로세서 계층을 관통하는 배열 알고리즘에 대한 체계적이고 수학적으로 증명 가능한 최적화를 가능하게 하는 것.
• 캐시 및 분산 메모리 최적화된 고성능 FFT의 구현을 통해 이 방법의 효과성을 입증하는 것.
• 코드 생성, 동치성 증명, 다양한 아키텍처(향후 양자 시스템 포함) 간의 이식성까지 지원하는 형식적 체계를 제공하는 것.
• 표현 템플릿과 같은 기존 고수준 프로그래밍 추상화에 정확성과 성능을 보장하는 형식적 축약 규칙를 확장하는 것.

제안 방법

• 다차원 배열과 그 연산을 형식적 대수적 프레임워크로 표현하기 위해 Mathematics of Arrays(MoA)를 사용한다.
• ψ-계산법은 원소별 접근과 인덱싱을 나타내며, 배열 표현의 대수적 조합과 축약을 가능하게 한다.
• reshape, transpose, 버터플라이 재정렬과 같은 핵심 연산들은 ψ-축약을 통해 표현되고 최적화되어 운영 정규형(ONF)을 도출한다.
• ONF는 효율적인 코드 생성을 위한 수학적 지침으로서 직접 최적화된 저수준 구현으로 매핑된다.
• 표현 정규형(DNF)과 운영 정규형(ONF)을 사용하여 데이터 접근 패턴의 최적화와 동치성의 형식적 증명을 수행한다.
• 초입방체 인덱싱을 사용하여 배열을 캐시 및 메모리 계층에 맞는 형태로 재구성함으로써 지연을 최소화하고 국소성을 극대화한다.

실험 결과

연구 질문

• RQ1 알고리즘 논리와 하드웨어 메모리 계층을 모두 기술할 수 있는 통일된 대수적 형식 체계를 어떻게 구성할 수 있는가?
• RQ2 ψ-축약을 사용하여 최적화된 배열 알고리즘(예: FFT)의 형식적 유도 및 정당성 증명이 가능한가?
• RQ3 이 형식 체계가 수동 최적화된 라이브러리 루틴과 비교해 성능 면에서 유사하거나 슈퍼어리어한 성능을 달성할 수 있는가?
• RQ4 이 방법을 양자 시뮬레이션에서처럼 다양한 배열 접근 패턴을 지원하도록 어떻게 확장할 수 있는가?
• RQ5 이 접근법을 통해 MPI, OpenMP, 하드웨어 가속기 등 다양한 타겟에 대해 자동으로 최적화된 코드를 생성할 수 있는가?

주요 결과

• Conformal Computing를 활용한 캐시 최적화 FFT는 이전에 발표된 연구 및 잘 최적화된 라이브러리 루틴 대비 2배에서 4배의 성능 향상을 달성한다.
• ψ-축약 과정을 통해 운영 정규형(ONF)을 형식적으로 도출할 수 있으며, 이는 직접적으로 효율적인 코드 생성을 지시한다.
• 연산을 대수적으로 조합함으로써 불필요한 일시적 배열의 제거가 가능하여 메모리 효율성이 향상된다.
• 초입방체 인덱싱 접근법을 통해 캐시 라인 크기와 메모리 대역폭에 맞는 데이터 접근 패턴의 효율적 재구성가능하다.
• 형식 체계는 고수준 표현과 저수준 구현 간의 알고리즘 동치성을 수학적으로 증명할 수 있다.
• 이 방법은 양자 시뮬레이터에 성공적으로 적용되어 인덱스 벡터 조작을 통한 효율적 희박 행렬 접근 및 블록 대각화를 가능하게 하였다.