[논문 리뷰] Loop Optimization Framework

Michael Kruse, Hal Finkel|arXiv (Cornell University)|2018. 11. 01.

Parallel Computing and Optimization Techniques참고 문헌 3인용 수 4

한 줄 요약

이 논문은 LLVM 내부에서 루프 최적화를 통합하기 위해 통합된 루프 구조 DAG 프레임워크를 제안한다. 기존의 독립된 패ass들을 하나의 조율된 전처리 패스로 대체함으로써, 종속성 분석, 수익성 히우리스틱, 코드 생성을 중앙 집중화함으로써 더 안전하고 조합 가능하며 순서에 민감하지 않은 루프 변환을 가능하게 하며, 코드 중복을 줄이고 최적화의 상호보완성을 향상시킨다.

ABSTRACT

The LLVM compiler framework supports a selection of loop transformations such as vectorization, distribution and unrolling. Each transformation is carried-out by specialized passes that have been developed independently. In this paper we propose an integrated approach to loop optimizations: A single dedicated pass that mutates a Loop Structure DAG. Each transformation can make use of a common infrastructure such as dependency analysis, transformation preconditions, etc.

연구 동기 및 목표

• LLVM의 현재 독립된 루프 최적화 패스들이 초래하는 문제들 — 반복적인 분석, 버전 관리로 인한 코드 중복, 유연하지 못한 변환 순서 — 를 해결한다.
• 종속성 분석, 수익성 히우리스틱, 변환 전제 조건 등의 인프라를 통합함으로써 조합 가능하고 안전한 루프 변환을 가능하게 한다.
• 유연하고 확장 가능한 표현 방식을 통해 pragma 기반 최적화와 자동 최적화(예: 다각형 분석을 통한)를 모두 지원한다.
• 변환 간의 반복적 루프 복제로 인한 코드 팽창을 줄이기 위해 코드 복제 및 재사용을 전역적으로 중앙 집중화한다.
• OpenMP 및 벡터화 지원을 향상시키기 위해 IR를 변환 자유도를 유지하면서도 최적화 기회를 극대화할 수 있는 형태로 정규화한다.

제안 방법

• 루프를 높은 수준의 정규화된 중간 형태인 루프 구조 DAG로 표현하여 문장, 조건자, 종속성을 모두 포괄함으로써 안전하고 조합 가능한 변환을 가능하게 한다.
• 조건부 실행과 제어 흐름을 나타내기 위해 빨간색/초록색 노드를 도입하여 조건자 기반 제어 흐름을 허용하고, 전체 IR 전개 없이도 변환을 수행할 수 있도록 한다.
• 모든 변환에 걸쳐 종속성 분석을 중앙 집중화하여 메모리, 레지스터, 제어 종속성을 다양한 정밀도로 지원한다.
• 항등성 및 사전 실행 가능성 등의 성질을 활용해 안전한 코드 이동과 값 재생성 전략을 지도함으로써 불필요한 메모리 작업을 줄인다.
• DAG를 LLVM-IR 또는 VPlan으로 변환하여 기존 LLVM 패스와 통합함으로써 변환 가정과 비용 모델에 기반한 여러 버전을 지원한다.
• 다양한 DAG 변형을 평가할 수 있는 비용 모델을 도입하여 가장 수익성이 높은 구성으로 변환 선택을 수행한다.

실험 결과

연구 질문

• RQ1 LLVM의 현재 패스 파이프라인 아키텍처 환경에서 루프 최적화를 어떻게 조합 가능하고 순서에 민감하지 않게 만들 수 있는가?
• RQ2 통합된 중간 표현이 독립된 패스들 간 반복적인 루프 버전 관리로 인한 코드 팽창을 줄일 수 있는가?
• RQ3 종속성 분석 및 수익성 히우리스틱과 같은 공통 인프라가 최적화 품질과 성능을 얼마나 향상시킬 수 있는가?
• RQ4 LLVM-IR에서 스레드 기반 병렬 처리 의미를 볼 수 없는 상황에서 OpenMP로 병렬화된 루프는 어떻게 효과적으로 변환할 수 있는가?
• RQ5 단일의 중앙 집중화된 전처리 패스가 기존의 독립적이고 히우리스틱 기반의 패스 모델보다 최적화 품질과 컴파일 효율성 측면에서 뛰어나게 성능을 낼 수 있는가?

주요 결과

• 루프 구조 DAG는 분석과 변환 로직을 분리함으로써 변환 간에 사전 계산된 결과(예: 종속성 정보)를 공유할 수 있도록 하여 조합 가능한 루프 최적화를 가능하게 한다.
• 이 프레임워크는 각 변환이 공통 DAG를 기반으로 작동함으로써 루프 복제를 중앙 집중화함으로써 버전 관리로 인한 코드 팽창을 줄였다. 이는 독립된 패스 수준의 복제로 인한 지수적 증가를 방지한다.
• 모든 변환에 걸쳐 종속성 분석이 통합되어 있어 반복적인 재계산을 제거하고 메모리, 레지스터, 제어 종속성에 대해 일관된 처리를 가능하게 한다.
• IR를 정규화함으로써 pragma 기반 최적화와 자동 최적화(예: 벡터화, 병렬화 포함)를 모두 지원하는 표현 방식을 제공하여 변환 자유도를 유지한다.
• OpenMP 어노테이션을 가진 루프의 안전한 변환을 가능하게 하여 메타데이터를 유지하고, 런타임 호출을 통해 병렬성이 표현되더라도 중간 단계 분석이 가능하도록 한다.
• 여러 개의 DAG 변형을 생성하고 비용 모델로 평가할 수 있어 고정된 패스 순서에 의존하지 않고도 가장 수익성이 높은 변환 순서를 선택할 수 있다.