[논문 리뷰] Using ECC DRAM to Adaptively Increase Memory Capacity

Yixin Luo, Saugata Ghose외 6명|arXiv (Cornell University)|2017. 06. 27.

Parallel Computing and Optimization Techniques참고 문헌 28인용 수 12

한 줄 요약

이 논문은 응용 프로그램이 강력한 신뢰성 요구 사항이 없을 경우 ECC DRAM의 예약된 오류 수정 코드 공간을 동적으로 추가 데이터 용량으로 재사용하는 하드웨어 메커니즘인 CREAM을 제안한다. 여러 수준의 신뢰성(오류 보정 없음에서 다중 비트 패리티까지)을 지원함으로써 CREAM은 중요한 워크로드의 오류 내성 능력을 훼손하지 않으면서도 사용 가능한 DRAM 용량을 증가시킨다. 데이터베이스 및 웹 검색 워크로드에서 각각 23.0% 및 37.3%의 성능 향상을 달성한다.

ABSTRACT

Modern DRAM modules are often equipped with hardware error correction capabilities, especially for DRAM deployed in large-scale data centers, as process technology scaling has increased the susceptibility of these devices to errors. To provide fast error detection and correction, error-correcting codes (ECC) are placed on an additional DRAM chip in a DRAM module. This additional chip expands the raw capacity of a DRAM module by 12.5%, but the applications are unable to use any of this extra capacity, as it is used exclusively to provide reliability for all data. In reality, there are a number of applications that do not need such strong reliability for all their data regions (e.g., some user batch jobs executing on a public cloud), and can instead benefit from using additional DRAM capacity to store extra data. Our goal in this work is to provide the additional capacity within an ECC DRAM module to applications when they do not need the high reliability of error correction. In this paper, we propose Capacity- and Reliability-Adaptive Memory (CREAM), a hardware mechanism that adapts error correcting DRAM modules to offer multiple levels of error protection, and provides the capacity saved from using weaker protection to applications. For regions of memory that do not require strong error correction, we either provide no ECC protection or provide error detection using multibit parity. We evaluate several layouts for arranging the data within ECC DRAM in these reduced-protection modes, taking into account the various trade-offs exposed from exploiting the extra chip. Our experiments show that the increased capacity provided by CREAM improves performance by 23.0% for a memory caching workload, and by 37.3% for a commercial web search workload executing production query traces. In addition, CREAM can increase bank-level parallelism within DRAM, offering further performance improvements.

연구 동기 및 목표

• 데이터 센터 내 많은 응용 프로그램은 강력한 오류 수정 기능이 필요하지만 추가 DRAM 용량을 얻을 수 있다.
• 현재의 ECC DRAM 모듈은 오류 수정을 위해 고정적으로 12.5%의 용량을 예약하고 있으나, 이를 필요로 하지 않는 응용 프로그램에서는 활용되지 않는다.
• 목표는 ECC DRAM을 동적으로 다양한 신뢰성 수준으로 조정하고, 전체 오류 보정이 필요하지 않은 응용 프로그램에 대해 해제된 용량을 노출하는 것이다.
• 메커니즘은 성능 오버헤드를 최소화하면서도 신뢰성과 메모리 용량 사이의 탄력적인 트레이드오프를 가능하게 해야 한다.
• 시스템은 중요한 워크로드를 위한 완전한 신뢰성과 덜 중요한 또는 내성적인 워크로드를 위한 감소된 보호 모드를 모두 지원해야 한다.

제안 방법

• CREAM은 오류 보정이 필요하지 않을 경우 SECDED 코드에 사용되는 공간을 재사용하기 위해 ECC DRAM 모듈 내 데이터 레이아웃을 재구성한다.
• 응용 프로그램의 필요에 따라 다양한 신뢰성 수준을 지원한다: 완전한 SECDED, 경량 다중 비트 패리티, 오류 보정 없음.
• 메모리 컨트롤러와 DRAM 브리지 칩을 수정하여 메모리 영역 수준에서 보호 수준 간의 동적 전환을 관리한다.
• 성능 저하를 최소화하기 위해 데이터 레이아웃 전략을 평가하며, 이는 행 버퍼 국지성과 뱅크 수준의 병렬성 간의 트레이드오프를 포함한다.
• 운영 체제나 MMU 변경 없이 하드웨어 수준 제어를 통해 보호 모드를 전환하므로 오버헤드가 매우 낮다.
• CREAM은 기존 ECC DRAM과의 호환성을 유지하며, 필요로 하는 영역에 대해서는 여전히 완전한 오류 보정을 보존한다.

실험 결과

연구 질문

• RQ1 응용 프로그램이 강력한 오류 수정이 필요하지 않을 경우 DRAM 모듈에 예약된 ECC 공간을 동적으로 데이터 저장 용도로 재사용할 수 있는가?
• RQ2 특히 캐시 경쟁과 행 버퍼 국지성 측면에서, DRAM에서 감소된 또는 오류 보정이 없는 상태를 사용할 경우의 성능 트레이드오프는 어떠한가?
• RQ3 ECC DRAM의 데이터 레이아웃을 어떻게 재구성하면 사용 가능한 용량을 극대화하면서도 성능 저하를 최소화할 수 있는가?
• RQ4 SECDED로 보호된 영역와 오류 보정이 없는 영역의 비율을 다양하게 조정할 경우 전체 시스템 성능에 어떤 영향을 미치는가?
• RQ5 운영 체제나 MMU 수정 없이도 탄력적인 신뢰성과 용량 트레이드오프를 지원할 수 있는 하드웨어 메커니즘을 설계할 수 있는가?

주요 결과

• CREAM은 데이터베이스 시스템에서 메모리 캐싱 워크로드에 대해 사용 가능한 DRAM 용량을 증가시켜 성능을 23.0% 향상시켰다.
• 실제 쿼리 트레이스를 사용한 상용 웹 검색 워크로드의 경우, 증가된 메모리 용량 덕분에 CREAM이 37.3%의 성능 향상을 제공했다.
• CREAM의 성능 저하는 매우 미미하여, 모든 테스트 구성에서 최대 4.0%의 감소만을 보였으며, 고메모리 강도 조건에서도 마찬가지였다.
• 반면, 가상화된 ECC(VECC)는 유사 조건에서 최대 25.1%의 성능 저하를 겪었으며, 이는 CREAM의 효율성을 뚜렷이 드러낸다.
• SECDED와 오류 보정 없음 영역 간 전환 시에도 CREAM은 높은 뱅크 수준의 병렬성을 유지하고, 심각한 행 버퍼 국지성 손실을 피한다.
• ECC 보호가 필요하지 않은 경우 CREAM은 DRAM 모듈에서 12.5%의 추가 데이터 용량을 확보했으며, 중요한 워크로드의 신뢰성은 손상되지 않았다.