[논문 리뷰] Using Cache-coloring to Mitigate Inter-set Write Variation in Non-volatile Caches

Sparsh Mittal|arXiv (Cornell University)|2013. 10. 31.

Parallel Computing and Optimization Techniques참고 문헌 19인용 수 10

한 줄 요약

이 논문은 비휘발성 마지막 레벨 캐시(LLC)에서의 인터세트 쓰기 변동성을 완화하기 위해 소프트웨어 제어 캐시-컬러링 기법을 제안한다. 쓰기 트래픽 프로파일링 기반으로 물리적 페이지 그룹을 캐시 세트로 동적 리맵핑한다. 시뮬레이션 결과, 성능 오버헤드를 최소화하면서도 캐시 수명을 평균 4.20배 향상시켜 STT-RAM 및 유사한 비휘발성 캐시를 대규모 에너지 효율적 프로세서에 적용 가능하게 한다.

ABSTRACT

In recent years, researchers have explored use of non-volatile devices such as STT-RAM (spin torque transfer RAM) for designing on-chip caches, since they provide high density and consume low leakage power. A common limitation of all non-volatile devices is their limited write endurance. Further, since existing cache management policies are write-variation unaware, excessive writes to a few blocks may lead to a quick failure of the whole cache. We propose an architectural technique for wear-leveling of non-volatile last level caches (LLCs). Our technique uses cache-coloring approach which adds a software-controlled mapping layer between groups of physical pages and cache sets. Periodically the mapping is altered to ensure that write-traffic can be spread uniformly to different sets of the cache to achieve wear-leveling. Simulations performed with an x86-64 simulator and SPEC2006 benchmarks show that our technique reduces the worst-case writes to cache blocks and thus improves the cache lifetime by 4.07X.

연구 동기 및 목표

• 칩내부 마지막 레벨 캐시(LLC)에서 STT-RAM과 같은 비휘발성 메모리(NVM) 장치의 제한된 쓰기 내구성 문제를 해결하기 위해.
• 많이 쓰이는 캐시 세트의 조기 고장 원인이 되는 인터세트 쓰기 비균형을 완화하기 위해.
• 실제 프로세서에 적합하고 최소한의 하드웨어 오버헤드를 갖는 경량 소프트웨어 제어 웨어레벨링 기법을 설계하기 위해.
• 성능 또는 에너지 효율성에 크게 영향을 주지 않으면서 캐시 수명을 향상시키기 위해.

제안 방법

• 소프트웨어 제어 매핑 레이어를 사용해 물리적 페이지 그룹(메모리 영역)을 캐시 세트로 매핑하는 캐시-컬러링 추상화를 도입한다.
• 캐시 컬러(세트 그룹) 별로 쓰기 트래픽을 주기적으로 프로파일링하여 가장 많이 및 가장 적게 사용된 컬러를 식별한다.
• 쓰기 트래픽을 저사용 캐시 세트로 재분배하기 위해 일부 컬러를 동적으로 리맵핑함으로써 웨어레벨링을 달성한다.
• 세트 단위가 아닌 컬러 수준에서의 굵은 임계 리맵핑(예: 16-way, 4MB 캐시에서 64개의 컬러)을 사용하여 오버헤드를 감소시킨다.
• 오프라인 분석 대신 동적 프로파일링을 활용하여 다양한 워크로드에 적응 가능한 유연성을 확보한다.
• 내세트 쓰기 비균형 또는 쓰기 감소를 목표로 하는 다른 기법과도 통합 가능하다.

실험 결과

연구 질문

• RQ1 동적 캐시-컬러링 리맵핑이 비휘발성 LLC에서 인터세트 쓰기 변동성을 효과적으로 줄일 수 있는가?
• RQ2 이 웨어레벨링 기법을 통해 캐시 수명은 얼마나 향상될 수 있는가?
• RQ3 실세계 워크로드에서 제안된 기법의 성능 및 에너지 오버헤드는 어떠한가?
• RQ4 최소한의 하드웨어 지원으로도 이 기법을 구현할 수 있으며, 다양한 워크로드에서 효과를 유지할 수 있는가?
• RQ5 다양한 쓰기 강도 및 액세스 패턴 하에서 이 기법은 어떻게 성능을 발휘하는가?

주요 결과

• 제안된 기법은 SPEC2006 벤치마크 전반에서 캐시 수명을 평균 4.20배 향상시켰으며, povray 워크로드에서는 최대 20.3배의 향상을 기록했다.
• 성능 저하 평균은 단지 4%에 불과하며(상대적 성능 0.96×), 응용 프로그램 실행에 미치는 영향이 극히 미미하다.
• 에너지 소비는 평균 9.42% 증가했지만, 내구성 향상의 중요성을 고려하면 이는 수용 가능한 수준이다.
• 쓰기 액세스 분포의 표준편차가 높은 워크로드(예: povray, gem5)에서는 수명 향상 폭이 가장 크게 나타나, 높은 쓰기 변동성 하에서도 기법의 효과성이 입증되었다.
• 이 기법은 인터세트 쓰기 변동성이 높을수록 가장 효과적이며, 이미 균형 잡힌 쓰기 패턴을 가진 애플리케이션에서는 개선 폭이 제한적이다.
• 이 기법은 확장 가능하며, 다른 웨어레벨링 및 쓰기 감소 기법과의 호환성이 뛰어나 상호보완적인 수명 연장이 가능하다.