[논문 리뷰] DReAM: Dynamic Re-arrangement of Address Mapping to Improve the Performance of DRAMs

Mohsen Ghasempour, Jim Garside외 2명|arXiv (Cornell University)|2015. 09. 12.

Parallel Computing and Optimization Techniques참고 문헌 14인용 수 4

한 줄 요약

DReAM은 워크로드 특화 메모리 액세스 패턴을 기반으로 런타임 시 동적으로 DRAM 주소 매핑을 재구성하는 새로운 하드웨어 기법이다. 엔트로피 기반 비트 분석을 통해 페이지 충돌을 최소화하며, 다양한 워크로드에서 평균 28%까지 DRAM 성능 향상을 이룬다. 응용 프로그램 정지나 소프트웨어 변경 없이도 기존 정적 매핑 기법을 능가한다.

ABSTRACT

The initial location of data in DRAMs is determined and controlled by the 'address-mapping' and even modern memory controllers use a fixed and run-time-agnostic address mapping. On the other hand, the memory access pattern seen at the memory interface level will dynamically change at run-time. This dynamic nature of memory access pattern and the fixed behavior of address mapping process in DRAM controllers, implied by using a fixed address mapping scheme, means that DRAM performance cannot be exploited efficiently. DReAM is a novel hardware technique that can detect a workload-specific address mapping at run-time based on the application access pattern which improves the performance of DRAMs. The experimental results show that DReAM outperforms the best evaluated address mapping on average by 9%, for mapping-sensitive workloads, by 2% for mapping-insensitive workloads, and up to 28% across all the workloads. DReAM can be seen as an insurance policy capable of detecting which scenarios are not well served by the predefined address mapping.

연구 동기 및 목표

• 정적이고 고정된 주소 매핑 기법이 동적인 메모리 액세스 패턴에 적응하지 않아 발생하는 DRAM 성능 저하 문제를 해결하기 위해.
• 동일한 밴크 내에서 서로 다른 레지스터에 연속적으로 액세스하면서 발생하는 페이지 충돌을 줄이기 위해 실시간 액세스 행동에 기반해 주소 매핑을 동적으로 재할당하기 위해.
• 응용 프로그램 정지를 피하고 실시간으로 주소 매핑 재구성을 가능하게 하여 소프트웨어 전용 또는 오프라인 접근 방식의 한계를 극복하기 위해.
• 저장소 및 하드웨어 비용을 최소화하면서도 런타임 데이터 마이그레이션을 지원할 수 있는 저비용 메커니즘을 설계하기 위해.

제안 방법

• DReAM은 250K건의 요청을 기준으로 슬라이딩 윈도우를 활용해 각 물리적 주소 비트의 엔트로피를 근사화함으로써 메모리 액세스 패턴을 모니터링하여 워크로드 특화 액세스 행동을 탐지한다.
• 각 주소 비트당 카운터와 XOR 게이트를 사용해 비트 전환을 추적하고, 액세스 국소성과 관련된 고엔트로피 비트를 식별한다.
• 탐지된 액세스 패턴을 바탕으로 레지스터 버퍼 충돌과 페이지 충돌을 최소화하는 최적의 주소 매핑 체계를 계산한다.
• 이동 테이블(MT)과 상태 테이블(ST)을 사용해 온라인 데이터 마이그레이션을 수행함으로써 데이터를 밴크 간에 이동시키며, 내부 밴크 이동을 방지해 오버헤드를 줄인다.
• 최근 액세스된 주소를 추적함으로써 동적 재매핑을 지원하고, 정상 운영 중에 점진적인 데이터 이동을 가능하게 한다.
• 저장소 오버헤드를 최소화하여 모니터링에 60바이트만 사용하고, 마이그레이션 메타데이터에 DRAM 크기의 3×10⁻⁵%만 소요되어 확장성과 실용성이 높다.

실험 결과

연구 질문

• RQ1 고정된 정적 기법에 비해 런타임 적응형 주소 매핑 기법이 DRAM 내 페이지 충돌을 상당히 줄일 수 있는가?
• RQ2 실시간 액세스 패턴에 기반해 주소 매핑을 동적으로 재구성할 경우 다양한 워크로드에서 성능 향상은 어느 정도인가?
• RQ3 응용 프로그램 중단 없이도 런타임 주소 매핑 변경을 지원할 수 있는 효율적이고 비용 효율적인 온라인 데이터 마이그레이션은 어떻게 실현할 수 있는가?
• RQ4 런타임 주소 매핑 적응 및 데이터 마이그레이션 상태를 유지하는 데 필요한 저장소 및 하드웨어 오버헤드는 얼마인가?
• RQ5 동적 재매핑의 복잡성과 오버헤드를 감안할 때, 시스템이 워크로드 특화 액세스 패턴을 충분히 정확하게 탐지할 수 있는가?

주요 결과

• DReAM-Offline는 모든 48개 워크로드에서 평균 5% 향상되며 최대 28%까지 성능 향상을 기록해 가장 우수한 정적 주소 매핑 기법을 초월한다.
• 매핑 민감 워크로드의 경우 DReAM은 최상의 베이스라인 대비 평균 9% 성능 향상을 달성한다.
• 매핑 비민감 워크로드의 경우 DReAM은 여전히 평균 2% 성능 향상을 기록해 광범위한 적용 가능성을 입증한다.
• 온라인 버전인 DReAM-Online은 감지 임계값을 충족하는 12개 워크로드에서 평균 4.5% 성능 향상을 기록했으며, 최대 23%의 성능 향상을 기록했다.
• 시스템은 모니터링 오버헤드 60바이트와 마이그레이션 메타데이터에 DRAM 크기의 3×10⁻⁵%만 소요되어 저장소 비용이 매우 낮다.
• 87.5%의 데이터 이동이 밴크 간 이동이며, 내부 밴크 이동은 피함으로써 마이그레이션 비용을 줄였고, 이는 설계의 효율성을 확인한다.