[논문 리뷰] Execution-Cache-Memory Performance Model: Introduction and Validation

Johannes Hofmann, Jan Eitzinger외 1명|arXiv (Cornell University)|2015. 09. 10.

Parallel Computing and Optimization Techniques참고 문헌 3인용 수 12

한 줄 요약

이 논문은 Intel Xeon Haswell-EP에서 응용 프로그램 성능을 예측하기 위해 지침 실행, 캐시, 메모리 액세스 지연을 모델링하는 단순한 분석 프레임워크인 실행-캐시-메모리(Execution-Cache-Memory, ECM) 성능 모델을 소개하고 검증한다. 이 모델은 캐시 계층 트래픽 감소를 고려함으로써 비일시적 저장(non-temporal stores)으로 인한 최대 1.42×의 성능 향상을 정확히 예측하며, 전통적인 대역폭 중심 모델을 능가한다.

ABSTRACT

This report serves two purposes: To introduce and validate the Execution-Cache-Memory (ECM) performance model and to provide a thorough analysis of current Intel processor architectures with a special emphasis on Intel Xeon Haswell-EP. The ECM model is a simple analytical performance model which focuses on basic architectural resources. The architectural analysis and model predictions are showcased and validated using a set of elementary microbenchmarks.

연구 동기 및 목표

• 핵심 아키텍처 자원인 실행, 캐시, 메모리에 중점을 둔 단순한 분석 성능 모델을 도입하기 위해.
• Intel Xeon Haswell-EP 아키텍처에서 마이크로벤치마크를 사용하여 ECM 모델을 검증하기 위해.
• 비일시적 저장이 RFO 및 왈-얼로케이트 트래픽을 피하므로 메모리 대역폭 압력을 줄이고 성능을 향상시키는 방식을 분석하기 위해.
• 기존의 루프라이드 모델이 캐시 내 데이터 이동 비용을 忽略하기 때문에 비일시적 저장으로 인한 성능 향상 평가를 과소평가한다는 것을 보여주기 위해.
• 개발자가 버퍼링 지점과 최적화 기회를 식별할 수 있도록 실용적이고 아키텍처 인식 성능 모델링 접근법을 제공하기 위해.

제안 방법

• ECM 모델은 응용 프로그램 성능을 지침 실행, L1에서 L2로, L2에서 L3로, L3에서 메모리로의 데이터 전송 단계로 분해한다.
• 각 단계는 측정된 대역폭과 캐시 계층 동작 기반으로 캐시 라인당 사이클 수(c/CL)로 지연 비용을 할당한다.
• 측정된 대역폭과 캐시 라인 크기를 사용하여 전송 시간을 계산하며, 왈-얼로케이트 및 RFO 오버헤드를 통합한다.
• 비일시적 저장은 왈-얼로케이트 및 RFO 트래픽을 제거함으로써 전송 횟수와 지연을 줄여 모델링된다.
• 예측는 단계 지연의 합으로 유도되며, {1|3|4|5|...} 사이클로 표현되며, 최종 성능는 이러한 단계의 합으로 추정된다.
• 모델 검증은 Stream 및 Schönauer Triads와 같은 마이크로벤치마크에서의 측정된 성능와 ECM 예측을 비교하여 수행된다.

실험 결과

연구 질문

• RQ1 ECM 모델은 Haswell-EP에서 비일시적 저장으로 인한 성능 향상 예측을 얼마나 정확하게 수행하는가?
• RQ2 기존의 루프라이드 모델은 비일시적 저장으로 인한 성능 향상 평가를 왜 과소평가하는가?
• RQ3 일반 저장과 비일시적 저장 간 성능 차이에 있어 캐시 내 데이터 이동(예: L1-L2, L2-L3)의 역할은 무엇인가?
• RQ4 LFB 및 CoD 모드와 같은 아키텍처 기능은 지속적인 메모리 대역폭과 성능에 어떤 영향을 미치는가?
• RQ5 캐시 계층 트래픽 감소와 제거된 RFO 스트림이 성능 향상에 기여하는 정도는 어느 정도인가?

주요 결과

• Stream Triad에서 비일시적 저장을 사용할 경우 ECM 모델은 정확히 측정된 성능와 일치하는 1.42×의 성능 향상을 예측한다.
• Schönauer Triad의 경우 ECM 모델은 비일시적 저장을 사용할 때 1.32×의 성능 향상을 예측하며, 측정된 결과와 일치한다.
• 비일시적 저장으로 인한 성능 향상은 대역폭 중심 모델의 예측을 초월하며, 캐시 내 데이터 이동 오버헤드 감소로 인해 발생한다.
• Haswell-EP는 특히 비일시적 저장과 CoD 모드를 활성화한 경우 Sandy Bridge 및 Ivy Bridge보다 더 높은 지속적인 메모리 대역폭을 달성한다.
• RFO 및 왈-얼로케이트 트래픽 제거로 인해 Stream Triad에서 L1-L2 전송 시간은 5 사이클에서 4 사이클로, L2-L3는 8 사이클에서 4 사이클로 감소한다.
• 모델은 특히 높은 메모리 압력 하에서 중요한 역할을 하는 캐시에서 메모리로의 전송 지연 시간(예: 네 라인당 15.6 c/CL)이 정확한 성능 예측에 필수적임을 보여준다.