[논문 리뷰] DEW: a fast level 1 cache simulation approach for embedded processors with FIFO replacement policy

Mohammad Shihabul Haque, Jorgen Peddersen외 2명|arXiv (Cornell University)|2010. 03. 08.

Parallel Computing and Optimization Techniques참고 문헌 16인용 수 15

한 줄 요약

이 논문은 임베디드 프로세서의 레벨 1 캐시에 대해 FIFO 교체 정책을 사용하는 빠르고 정확한 시뮬레이션 방법인 DEW를 제안한다. 이중 트리 기반의 캐시 표현 방식과 최적화된 검색 알고리즘을 활용하여 DEW는 Dinero IV 대비 8배에서 40배 빠른 속도를 달성하면서도 정확한 미스 비율 계산을 유지하며, 필요한 캐시 웨이 비교 수를 크게 줄였다.

ABSTRACT

Increasing the speed of cache simulation to obtain hit/miss rates enables performance estimation, cache exploration for embedded systems and energy estimation. Previously, such simulations, particularly exact approaches, have been exclusively for caches which utilize the least recently used (LRU) replacement policy. In this paper, we propose a new, fast and exact cache simulation method for the First In First Out(FIFO) replacement policy. This method, called DEW, is able to simulate multiple level 1 cache configurations (different set sizes, associativities, and block sizes) with FIFO replacement policy. DEW utilizes a binomial tree based representation of cache configurations and a novel searching method to speed up simulation over single cache simulators like Dinero IV. Depending on different cache block sizes and benchmark applications, DEW operates around 8 to 40 times faster than Dinero IV. Dinero IV compares 2.17 to 19.42 times more cache ways than DEW to determine accurate miss rates.

연구 동기 및 목표

• 임베디드 시스템에서 FIFO 교체 정책을 사용하는 캐시에 대해 빠르고 정확한 시뮬레이션 기법의 부족을 해결한다.
• 다양한 구성으로 이루어진 레벨 1 캐시에 대해 효율적인 성능 추정 및 캐시 탐색을 가능하게 한다.
• 기존의 정확한 시뮬레이터인 Dinero IV와 비교해 시뮬레이션 시간을 단축한다. 단, Dinero IV는 LRU 정책에 한정되어 있다.
• 정확도를 희생시키지 않고도 고속의 시뮬레이션을 달성한다.

제안 방법

• 세트 크기, 연관성, 블록 크기를 효율적으로 인코딩하기 위해 캐시 구성 정보를 이중 트리 데이터 구조로 표현한다.
• 주소 검색 중 캐시 웨이 비교 수를 줄이기 위해 새로운 검색 알고리즘을 구현한다.
• FIFO 교체의 구조적 특성을 활용하여 중복 검사 방지를 통해 시뮬레이션 프로세스를 최적화한다.
• 사이클 정밀도 시뮬레이션 엔진과 이중 트리 표현 방식을 통합하여 정확한 미스 비율 결과를 유지한다.
• 표준 벤치마크 워크로드 및 여러 캐시 구성과의 호환성을 확보한다.
• 메모리 접근 및 각 메모리 참조당 비교 수를 줄여 계산 오버헤드를 최소화한다.

실험 결과

연구 질문

• RQ1 임베디드 프로세서의 레벨 1 캐시에서 FIFO 교체 정책을 위한 정확한 캐시 시뮬레이션은 어떻게 가속화할 수 있는가?
• RQ2 기존 시뮬레이터와 비교해 이중 트리 표현 방식은 시뮬레이션 속도를 얼마나 향상시키는가?
• RQ3 다양한 캐시 블록 크기와 벤치마크에서 DEW는 Dinero IV와 비교해 시뮬레이션 시간과 정확도 측면에서 어떻게 다른가?
• RQ4 DEW는 Dinero IV 대비 캐시 웨이 비교 수를 얼마나 줄였는가?

주요 결과

• 일부 벤치마크 및 캐시 구성에서 DEW는 Dinero IV 대비 최대 40배 빠른 성능을 기록했으며, 최소 8배의 성능 향상을 달성했다.
• 모든 테스트 구성에서 DEW는 Dinero IV보다 훨씬 빠르게 동작하면서도 정확한 미스 비율 결과를 유지했다.
• 동일한 미스 비율를 계산하기 위해 DEW는 Dinero IV 대비 2.17배에서 19.42배 적은 캐시 웨이 비교를 필요로 했다.
• 다양한 블록 크기와 벤치마크 애플리케이션에서 성능 향상이 일관되게 유지되어 뛰어난 견고성을 입증했다.
• 이중 트리 기반 표현 방식은 정확도나 구성 유연성을 희생시키지 않고도 효율적인 시뮬레이션을 가능하게 한다.
• 디자인 탐색에 있어 빠르고 정확한 캐시 시뮬레이션이 필수적인 임베디드 시스템에서 이 방법은 특히 효과적이다.