[논문 리뷰] Active Libraries: Rethinking the roles of compilers and libraries

Todd L. Veldhuizen, Dennis Gannon|ArXiv.org|1998. 10. 05.

Parallel Computing and Optimization Techniques참고 문헌 21인용 수 123

한 줄 요약

이 논문은 활성 라이브러리(Active Libraries)를 소개한다. 활성 라이브러리는 컴파일 과정에 적극적으로 참여하여 최적화된 코드를 생성하고 알고리즘을 특수화하며 대상 하드웨어에 맞게 구성된다. 표현 템플릿, 템플릿 메타프로그래밍, 부분 평가 기법을 활용함으로써 활성 라이브러리는 C++에서 고성능의 도메인 특화 추상화를 가능하게 하면서도 디버깅 및 프로파일링 도구에 대한 1급 지원을 제공한다.

ABSTRACT

We describe Active Libraries, which take an active role in compilation. Unlike traditional libraries which are passive collections of functions and objects, Active Libraries may generate components, specialize algorithms, optimize code, configure and tune themselves for a target machine, and describe themselves to tools (such as profilers and debuggers) in an intelligible way. Several such libraries are described, as are implementation technologies.

연구 동기 및 목표

• 과학 계산을 위한 도메인 특화 추상화를 최적화하는 데 있어 전통적인 수동 라이브러리의 한계를 해결한다.
• 컴파일러 최적화를 방해하는 의미적 지식의 부족으로 인해 C++의 객체 지향 추상화에서 발생하는 비효율성을 극복한다.
• 과학 계산을 위한 언어 확장 및 도메인 특화 언어(DSL)의 확장성과 유지보수성에 떨어지는 대안을 제공한다.
• 사용자 수준의 의미를 노출시켜 라이브러리가 디버거 및 프로파일러와 지능적으로 상호작용할 수 있도록 한다.
• 활성 컴파일 기법이 수작업 최적화된 코드와 비교해 성능을 유사하게 제공하면서도 고수준 추상화를 유지할 수 있음을 입증한다.

제안 방법

• 표현 템플릿을 사용해 컴파일 시점에 맞춤형 평가 커널을 생성함으로써 일시적 배열을 제거하고 타일링 및 재정렬과 같은 루프 최적화를 가능하게 한다.
• 템플릿 메타프로그래밍을 적용해 작은 벡터 및 행렬에 대해 알고리즘을 특수화함으로써 완전한 루프 편향 및 인lines를 달성하여 런타임 오버헤드를 제거한다.
• 부분 평가 기법을 활용해 일반 목적의 컴포onent을 런타임 설정 검사 없이 제거하는 특수화된 생성기로 변환한다.
• 컴파일 시점 구조(‘@’로 표시)를 갖춘 두 수준(다중 수준) 언어를 사용해 코드 생성을 단순화하며, 고정 크기 연산에 대해 편향된 루프를 생성할 수 있다.
• 확장 가능한 후크를 통해 라이브러리를 프로파일링 및 디버깅 도구와 통합함으로써 라이브러리 내부 구조를 인간이 읽을 수 있는 형식으로 기술할 수 있도록 한다(예: 템플릿 타입 대신 "A = B + C"를 표시).
• Tau와 같은 도구를 활용해 성능 오버헤드를 사용자 수준의 표현식에 할당함으로써 도구의 사용성과 디버깅 명확성을 향상시킨다.

실험 결과

연구 질문

• RQ1 과학 계산 라이브러리는 어떻게 고수준 추상화와 수작업 최적화된 코드 수준의 성능을 동시에 달성할 수 있는가?
• RQ2 컴파일러 분석에 의존하지 않고도 라이브러리가 컴파일 시점에 최적화된 코드를 생성할 수 있는 기법은 무엇인가?
• RQ3 라이브러리가 컴파일 과정에 적극적으로 참여하여 최적화, 구성, 도구 통합을 향상시킬 수 있는가?
• RQ4 디버깅 및 프로파일링 도구는 어떻게 확장되어 사용자 우호적인 방식으로 라이브러리 추상화를 이해하고 표시할 수 있는가?
• RQ5 메타프로그래밍과 부분 평가는 특정 하드웨어 및 문제 크기에 맞는 특수화된 효율적인 코드를 생성하는 데 있어 라이브러리에 어떤 역할을 하는가?

주요 결과

• Blitz++는 표현 템플릿을 사용해 일시적 객체를 제거하고 루프 최적화를 적용함으로써 수작업 최적화된 포트란 코드에 비해 10% 이내의 성능을 달성한다.
• Blitz++에서의 템플릿 메타프로그래밍은 작은 배열에 대해 완전한 루프 편향 및 인라인을 가능하게 하여 추상화 계층의 성능 저하를 제거한다.
• 활성 라이브러리는 특정 벡터 길이에 대해 특수화된 코드를 생성할 수 있으며, 예를 들어 편향된 내적 계산을 통해 성능을 향상시킨다.
• 부분 평가 기법을 통해 일반 컴포넌트를 런타임 설정 검사 없이 제거하는 생성기로 변환함으로써 효율성을 향상시킨다.
• Tau와 같은 프로파일링 도구와의 통합을 통해 성능 오버헤드를 사용자 수준의 표현식(예: "A = B + C")에 할당할 수 있어 도구의 사용성과 디버깅 명확성을 향상시킨다.
• 두 수준 언어를 통해 컴파일 시점의 제어 흐름과 변수를 허용함으로써 템플릿 메타프로그래밍 대비 복잡성을 감소시켜 코드 생성을 단순화한다.