[논문 리뷰] MARS: Middleware for Adaptive Reflective Computer Systems

Tiago Mück, Bryan Donyanavard외 3명|arXiv (Cornell University)|2021. 07. 23.

Parallel Computing and Optimization Techniques인용 수 2

한 줄 요약

MARS는 이질적 다수코어 프로세서(HMP)를 위한 이질적, 다중 플랫폼 미들웨어 프레임워크로, 이식 가능하고 조율되며 반사적인 런타임 자원 관리를 가능하게 한다. 개발자는 일반 인터페이스를 사용해 시스템 모델과 적응형 정책을 조합할 수 있으며, 일관된 동작과 최소한의 이식 노력으로 다양한 리눅스 기반 HMP 플랫폼 간에 동적 전압 및 주파수 스케일링(DVFS)을 지원한다.

ABSTRACT

Self-adaptive approaches for runtime resource management of manycore computing platforms often require a runtime model of the system that represents the software organization or the architecture of the target platform. The increasing heterogeneity in a platform's resource types and the interactions between resources pose challenges for coordinated model-based decision making in the face of dynamic workloads. Self-awareness properties address these challenges for emerging heterogeneous manycore processing (HMP) platforms through reflective resource managers. However, with HMP computing platform architectures evolving rapidly, porting the self-aware decision logic across different hardware platforms is challenging, requiring resource managers to update their models and platform-specific interfaces. We propose MARS (Middleware for Adaptive and Reflective Systems), a cross-layer and multi-platform framework that allows users to easily create resource managers by composing system models and resource management policies in a flexible and coordinated manner. MARS consists of a generic user-level sensing/actuation interface that allows for portable policy design, and a reflective system model used to coordinate multiple policies. We demonstrate MARS' interaction across multiple layers of the system stack through a dynamic voltage and frequency scaling (DVFS) policy example which can run on any Linux-based HMP computing platform.

연구 동기 및 목표

• 진행 중인 이질적 다수코어 프로세서(HMP) 플랫폼으로의 자가 적응형 자원 관리 정책 이식 문제를 해결하기 위해.
• 동적 워크로드 하에서 여러 시스템 계층과 자원 유형(CPU, 메모리, GPU 등) 간에 조율된 의사결정을 가능하게 하기 위해.
• 적응형 런타임 정책을 구현하고 배포하기 위해 필요한 복잡성과 플랫폼 특화 작업을 줄이기 위해.
• 실제 하드웨어와 시뮬레이션 환경을 모두 지원하는 모듈형이고 확장 가능한 프레임워크를 제공하기 위해. 정책 개발 및 검증을 위한 목적이다.

제안 방법

• MARS는 플랫폼 특화 세부 정보를 추상화하는 일반적인 사용자 수준의 센서링/액추에이터 인터페이스를 제공하여 이식 가능한 정책 설계를 가능하게 한다.
• 다양한 정책 간의 조율을 위해 시스템 아키텍처와 소프트웨어 구성의 런타임 표현을 유지하는 반사적 시스템 모델을 활용한다.
• 하드웨어 센서(예: 전력, 온도, 성능 카운터)에서 OS 수준 인터페이스와 커널 모듈에 이르기까지 시스템 스택의 모든 계층과 통합된다.
• 실제 HMP 시스템(Odroid-XU3, NVIDIA Jetson-TX2), 전체 시스템 gem5 시뮬레이션, 그리고 초기 정책 검증을 위한 트레이스 기반 오프라인 시뮬레이터를 포함한 다양한 실행 플랫폼을 지원한다.
• 정책은 객체 지향 설계를 사용한 C++로 구현되며, 배포 및 재현 가능성을 높이기 위해 도커 컨테이너 형태로 제공된다.
• 공유 모델을 통한 정책 간 조율을 가능하게 하여, 전반적인 전력, 성능, 자원 활용도 간의 상호 조정을 고려한 의사결정이 가능하다.

실험 결과

연구 질문

• RQ1 자기 적응형 자원 관리 정책을 다양한 이질적 다수코어 프로세서 플랫폼 간에 어떻게 이식 가능하게 만들 수 있는가?
• RQ2 다양한 시스템 계층과 자원 유형 간에 여러 정책을 조율하기 위해 필요한 아키텍처 추상화는 무엇인가?
• RQ3 반사적 미들웨어 프레임워크는 새로운 하드웨어 플랫폼이나 새로운 자원 유형에 정책을 적응시키는 데에 소요되는 노력을 얼마나 줄일 수 있는가?
• RQ4 통합 프레임워크가 실제 시스템 배포와 시뮬레이션 기반 정책 개발을 어느 정도 동시에 지원할 수 있는가?
• RQ5 여러 정책이 공유 런타임 모델에서 상호 작용할 때 일관되고 조율된 동작을 보장하기 위해 필요한 메커니즘은 무엇인가?

주요 결과

• MARS는 Odroid-XU3와 NVIDIA Jetson-TX2를 포함한 여러 리눅스 기반 HMP 플랫폼 간에 동적 전압 및 주파수 스케일링(DVFS) 정책을 성공적으로 배포하고 일관된 동작을 가능하게 했다.
• 프레임워크는 실제 하드웨어와 전체 시스템 gem5 시뮬레이션 모두에서 정책 실행을 지원하며, McPAT를 통한 통합 전력 모델링을 통해 정확한 성능 및 에너지 평가가 가능하다.
• 트레이스 기반 오프라인 시뮬레이터의 사용은 실제 시스템에 배포하기 이전에 정책의 초기 검증 및 디버깅을 가능하게 하여 개발 리스크를 감소시켰다.
• MARS는 SPARTA 및 SPECTR와 같은 연구 프로젝트에서 성공적으로 사용되었으며, 런타임 메모리 관리 및 퍼지 제어 기반 자원 관리의 생산 환경 배포에도 활용되었다.
• 모듈형 설계와 도커 기반 배포 덕분에 기존 개발 파이프라인에 쉽게 통합 가능하며, 새로운 플랫폼, 센서 또는 액추에이터를 위한 확장성도 지원한다.
• 반사적 시스템 모델은 정책 간의 조율된 의사결정을 가능하게 하여, 플랫폼 특화 재작성 없이도 동적 워크로드에 대한 전반적인 시스템 적응성을 향상시켰다.