[논문 리뷰] Deterministic Memory Abstraction and Supporting Multicore System Architecture

Farzad Farshchi, Prathap Kumar Valsan외 2명|arXiv (Cornell University)|2017. 07. 17.

Real-Time Systems Scheduling참고 문헌 55인용 수 7

한 줄 요약

이 논문은 운영체제 및 하드웨어 수준의 메모리 추상화인 Deterministic Memory를 제안한다. 이는 끈적하게 제한된 최악의 경우 메모리 접근 시간을 보장함으로써, 성능을 희생시키지 않고 다중코어 시스템에서 높은 시간 예측 가능성을 가능하게 한다. 페이지 수준에서 결정론적 메모리와 최적화된 메모리를 구분함으로써, 캐시 활용도를 39% 향상시키고, 개인용 DRAM 공간을 줄이며 강력한 격리성을 유지한다. 이는 리눅스 및 gem5 시뮬레이션을 통해 검증되었다.

ABSTRACT

Poor time predictability of multicore processors has been a long-standing challenge in the real-time systems community. In this paper, we make a case that a fundamental problem that prevents efficient and predictable real-time computing on multicore is the lack of a proper memory abstraction to express memory criticality, which cuts across various layers of the system: the application, OS, and hardware. We, therefore, propose a new holistic resource management approach driven by a new memory abstraction, which we call Deterministic Memory. The key characteristic of deterministic memory is that the platform - the OS and hardware - guarantees small and tightly bounded worst-case memory access timing. In contrast, we call the conventional memory abstraction as best-effort memory in which only highly pessimistic worst-case bounds can be achieved. We propose to utilize both abstractions to achieve high time predictability but without significantly sacrificing performance. We present deterministic memory-aware OS and architecture designs, including OS-level page allocator, hardware-level cache, and DRAM controller designs. We implement the proposed OS and architecture extensions on Linux and gem5 simulator. Our evaluation results, using a set of synthetic and real-world benchmarks, demonstrate the feasibility and effectiveness of our approach.

연구 동기 및 목표

• 제어되지 않는 메모리 접근 간섭으로 인한 다중코어 실시간 시스템에서의 낮은 시간 예측 가능성 문제를 해결한다.
• 응용 프로그램, 운영체제, 하드웨어 계층 간 메모리 중요도를 표현할 수 있는 통합된 메모리 추상화의 부재를 근본 원인으로 규명한다.
• 결정론적 메모리(제한된 시간)와 최적화된 메모리(성능 최적화)라는 두 가지 메모리 추상화를 사용하여, 종합적인 계층 간 자원 관리 프레임워크를 제안한다.
• 공유 메모리 계층에서 예측 가능성과 효율성을 균형 잡기 위해 페이지 수준의 세밀한 메모리 중요도 제어를 가능하게 한다.
• 새로운 추상화를 지원하기 위해 운영체제 및 하드웨어 확장 기능—OS 페이지 할당기, 캐시, DRAM 컨트롤러—를 설계하고 구현하며, 그 효과성을 평가한다.

제안 방법

• 운영체제와 하드웨어가 공동으로 작은, 엄격하게 제한된 최악의 경우 접근 시간을 보장하는 메모리 추상화로 Deterministic Memory를 정의한다.
• 버디 할당기 대체를 위해 결정론적 메모리 페이지와 최적화된 메모리 페이지 할당을 지원하는 새로운 페이지 할당기를 리눅스 3.13 커널에 확장한다.
• 동일한 격리 성능을 보장하지만 캐시 공간 활용도가 훨씬 높은 결정론적 메모리 인식 캐시를 설계한다.
• 실시간 작업의 예측 가능한 접근 시간을 유지하면서도 필요한 개인용 DRAM 밴크 공간을 줄이기 위해 실시간 DRAM 컨트롤러를 개선한다.
• 고성능, 순서 없는 4코어 플랫폼을 대상으로, gem5 포괄 시스템 시뮬레이터를 사용해 운영체제 및 하드웨어 확장을 구현한다.
• MMU 기반 페이지 테이블 항목을 사용해 페이지 수준에서 메모리 중요도를 인코딩함으로써, 메모리 시간 요구 사항에 대한 종단 간, 계층 간 인식을 가능하게 한다.

실험 결과

연구 질문

• RQ1 제한된 최악의 경우 메모리 접근 시간을 보장하는 새로운 메모리 추상화가 성능 저하 없이 다중코어 시스템의 시간 예측 가능성을 향상시킬 수 있는가?
• RQ2 결정론적 메모리는 운영체제 및 하드웨어 스택에 어떻게 통합되어 페이지 수준에서의 세밀한 제어를 가능하게 하는 계층 간 자원 관리가 가능한가?
• RQ3 결정론적 메모리는 캐시 공간 낭비와 DRAM 밴크 할당을 얼마나 줄일 수 있는가? 동시에 실시간 작업에 대한 강력한 격리성을 유지할 수 있는가?
• RQ4 비판적인 메모리 영역에만 결정론적 메모리를 선택적으로 적용할 경우, 어떤 성능과 예측 가능성의 상호 교환 관계가 발생하는가?
• RQ5 기존의 방식 기반 캐시 분할 및 최신 실시간 DRAM 컨트롤러와 비교했을 때, 제안된 방법은 격리성, 효율성, 자원 활용도 측면에서 어떻게 다른가?

주요 결과

• 제안된 결정론적 메모리 추상화는 기존의 방식 기반 캐시 분할과 동일한 격리 수준을 제공하지만, 공시된 비실시간 워크로드의 평균 캐시 히트율을 39% 향상시킨다.
• 결정론적 메모리 인식 캐시 설계는 기존의 방식 기반 분할 대비 평균 49%의 캐시 공간을 줄일 수 있으며, 격리 보장을 훼손하지 않는다.
• 결정론적 메모리 인식 DRAM 컨트롤러는 여전히 최신 실시간 DRAM 컨트롤러와 유사한 최악의 실행 시간(WCET) 보장을 달성하면서도 예약된 개인용 DRAM 밴크 공간을 줄였다.
• MMU 기반 페이지 수준의 메모리 중요도 인코딩은 이전의 범위 레지스터 기반 접근 방식의 한계를 극복하며, 유연하고 세밀한 메모리 중요도 제어를 가능하게 한다.
• EEMBC, SD-VBS, SPEC2006 벤치마크에서의 리눅스 및 gem5 시뮬레이션을 통한 구현은 제안된 계층 간 자원 관리 프레임워크의 실현 가능성과 효과성을 입증한다.
• 이 방법은 비판적인 작업에 대해 높은 시간 예측 가능성을 보장하면서도, 결정론적 메모리를 비판적인 영역에만 선택적으로 적용함으로써 비비판적 워크로드의 높은 성능을 유지할 수 있다.