[논문 리뷰] Polly's Polyhedral Scheduling in the Presence of Reductions

Johannes Doerfert, Kevin Streit외 2명|arXiv (Cornell University)|2015. 05. 28.

Parallel Computing and Optimization Techniques참고 문헌 32인용 수 15

한 줄 요약

이 논문은 LLVM의 Polly 최적화기에서 감소 연산을 고려한 다각형 스케줄링 프레임워크를 제안하며, 연관성과 교환법칙을 이용한 병렬화를 탐지하고 최적화할 수 있도록 한다. 감소 연산을 사전 처리를 통해 모델링하고, 연관성과 교환법칙을 이용해 메모리 의존성을 완화함으로써, 다차원 루프 중첩에서 감소 연산을 효과적으로 스케줄링함으로써 BiCG 벤치마크에서 최대 2.21×의 성능 향상을 달성한다.

ABSTRACT

The polyhedral model provides a powerful mathematical abstraction to enable effective optimization of loop nests with respect to a given optimization goal, e.g., exploiting parallelism. Unexploited reduction properties are a frequent reason for polyhedral optimizers to assume parallelism prohibiting dependences. To our knowledge, no polyhedral loop optimizer available in any production compiler provides support for reductions. In this paper, we show that leveraging the parallelism of reductions can lead to a significant performance increase. We give a precise, dependence based, definition of reductions and discuss ways to extend polyhedral optimization to exploit the associativity and commutativity of reduction computations. We have implemented a reduction-enabled scheduling approach in the Polly polyhedral optimizer and evaluate it on the standard Polybench 3.2 benchmark suite. We were able to detect and model all 52 arithmetic reductions and achieve speedups up to 2.21$ imes$ on a quad core machine by exploiting the multidimensional reduction in the BiCG benchmark.

연구 동기 및 목표

• 생산용 다각형 최적화기에서 감소 연산 지원이 부족하여 루프 간 의존성으로 인해 병렬화가 차단되는 문제를 해결하기 위해.
• 연관성과 교환법칙 성질을 활용하여 다각형 최적화기가 감소 연산을 탐지하고 병렬화를 유도할 수 있도록 하기 위해.
• 감소 연산과 그 병렬화를 의존성 기반 메커니즘으로 다각형 모델에 정확하게 통합하기 위해.
• SARE 형식으로의 사전 처리가 필요 없이 감소 연산 인식 스케줄링을 Polly 최적화기 내부에 통합하기 위해.
• 실세계 벤치마크에서 감소 연산 인식 최적화의 성능 영향을 평가하기 위해.

제안 방법

• 기존의 의존성 분석을 활용하여 메모리 의존성과 값 기반 의존성 정보를 이용해 감소 연산을 탐지하는 의존성 기반 알고리즘을 제안한다.
• 감소 연산의 연관성과 교환법칙을 활용해 메모리 의존성을 완화하는 모델을 도입한다.
• 벡터 랜드나 스레드당 임시 배열을 도입함으로써, 감소 연산의 벡터화와 병렬화를 가능하게 하는 사전 처리 기법을 활용한다.
• 감소 연산의 무결성을 유지하기 위해 감소 문장의 첫 번째 및 마지막 인스턴스 사이에 감소 위치에 대한 접근이 발생하지 않도록 보장하는 스케줄링 프레임워크를 설계한다.
• LLVM 컴파일러 인프라 내부의 Polly 다각형 최적화기 내에 이 방법을 통합한다.
• 세 단계 접근 방식을 사용한다: 감소 연산 탐지, 의존성 완화, 변환 스케줄링 — 모두 다각형 모델 내에서 수행된다.

실험 결과

연구 질문

• RQ1 기존의 의존성 분석을 활용해 다각형 모델에서 감소 연산을 신뢰성 있게 탐지할 수 있는 방법은 무엇인가?
• RQ2 정확성을 유지하면서 감소 연산으로 인한 메모리 의존성을 효과적으로 완화할 수 있는 신뢰성 있고 실용적인 방법은 무엇인가?
• RQ3 다각형 스케줄링에 사전 처리를 통합해 감소 연산의 벡터화와 병렬화를 어떻게 가능하게 할 수 있는가?
• RQ4 실세계 벤치마크에서 감소 연산의 병렬화를 활용할 경우 성능 향상은 어느 정도 달성될 수 있는가?
• RQ5 감소 연산 인식 스케줄링은 감소 연산 지원이 없는 전통적인 다각형 최적화와 비교해 어떻게 다를 수 있는가?

주요 결과

• 제안된 감소 연산 탐지 알고리즘은 PolyBench 3.2 벤치마크 세트 내 52개의 산술 감소 연산을 모두 성공적으로 식별했다.
• Polly에 감소 연산 인식 스케줄링을 통합함으로써, BiCG 벤치마크와 같은 다차원 감소 연산의 탐지 및 최적화가 가능해졌다.
• 4코어 머신에서 감소 연산 인식 스케줄링을 통해 BiCG 벤치마크에서 최대 2.21×의 성능 향상을 달성했다.
• SARE 형식으로의 사전 처리가 필요 없이 감소 연산의 벡터화와 병렬화를 지원함으로써 더 유연한 최적화가 가능해졌다.
• 사전 처리의 오버헤드는 관리 가능하며, 실행 환경이 최적화 전략과 일치할 경우 성능 향상은 뚜렷하다.
• 감소 연산 인식 스케줄링은 핵심 스케줄링 프로세스에 통합되어야 하며, 후처리 단계로 간주해서는 안 된다는 것이 프레임워크를 통해 입증되었다.