[논문 리뷰] IPA in the Loop: Control Design for Throughput Regulation in Computer Processors

Xinwei Chen, Y. Wardi외 1명|arXiv (Cornell University)|2016. 04. 10.

Parallel Computing and Optimization Techniques참고 문헌 12인용 수 3

한 줄 요약

이 논문은 다중코어 프로세서에서 실시간 스루풋 조절을 위한 IPA 기반 적응형 적분 제어 법칙을 제시한다. 무한소 변화량 분석(IPA)을 사용해 기울기 피드백를 추정하고 제어 이득을 동적으로 조정한다. 인텔 허슬 레이어에서 구현된 이 방법은 사이클 수준 시뮬레이션보다 뛰어난 성능을 보이며, 다양한 설정에서 목표 속도 대비 평균 스루풋 오프셋이 ±30 MIPS 이내로 유지된다.

ABSTRACT

A new technique for performance regulation in event-driven systems, recently proposed by the authors, consists of an adaptive-gain integral control. The gain is adjusted in the control loop by a real-time estimation of the derivative of the plant-function with respect to the control input. This estimation is carried out by Infinitesimal Perturbation Analysis (IPA). The main motivation comes from applications to throughput regulation in computer processors, where to-date, testing and assessment of the proposed control technique has been assessed by simulation. The purpose of this paper is to report on its implementation on a machine, namely an Intel Haswell microprocessor, and compare its performance to that obtained from cycle-level, full system simulation environment. The intrinsic contribution of the paper to the Workshop on Discrete Event System is in describing the process of taking an IPA-based design and simulation to a concrete implementation, thereby providing a bridge between theory and applications.

연구 동기 및 목표

• 이벤트 기반 시스템, 특히 컴퓨터 프로세서의 스루풋 조절을 위한 이론적 제어 설계와 실제 구현 간 격차를 메우기 위해.
• 실제 하드웨어 환경에서 IPA 기반 적응형 적분 제어 법칙의 성능을 평가하고, 사이클 수준 시뮬레이션과 대비하기 위해.
• 다중코어 프로세서 환경에서 IPA 유도 기울기 추정치를 사용한 저복잡도 실시간 제어의 실현 가능성과 강건성을 입증하기 위해.
• 실제 구현에서 계산 근사치가 존재하더라도 제어 기법이 안정성과 정확성을 유지하는지 검증하기 위해.

제안 방법

• 제어 법칙은 적응형 이득 $ A_n $ 를 갖는 이산시간 적분기로 구성되며, 이는 IPA로 추정한 도함수 $ L_n'(u_n) $ 의 역수를 통해 업데이트된다. 이는 클럭 주파수에 대한 스루풋의 민감도를 측정한다.
• 식물 모델은 다중코어 프로세서를 이산사건 시스템으로 표현하며, 스루풋 $ y_n $ 는 제어 사이클 $ C_n $ 동안 지정된 지연 시간 동안의 지시어 수로 계산된다.
• IPA는 저비용의 경로 기반 규칙를 사용해 샘플 경로를 따라 $ \partial y_n / \partial u_n $ 를 추정함으로써, 비편향성이 없더라도 실시간 기울기 계산을 가능하게 한다.
• 제어 루프는 오차 $ e_n = r - y_n $ 를 기반으로 클럭 주파수 $ u_n $ 를 $ u_n = u_{n-1} + A_n e_{n-1} $ 를 통해 반복적으로 업데이트한다. 여기서 $ r $ 은 목표 스루풋이다.
• 시스템은 인텔 허슬 프로세서에 구현되었으며, 다양한 워크로드(Barnes, Water-ns)에 대해 스루풋과 클럭 주파수를 시간 경과에 따라 모니터링하였다.
• 제어 사이클 길이는 지시어 배치에 의해 결정되며, 스루풋은 $ N / d_N(\tau) $ 로 계산된다. 여기서 $ d_N $ 는 마지막 지시어의 도착 시간이다.

실험 결과

연구 질문

• RQ1 IPA 기반 적응형 적분 제어 법칙은 실제 다중코어 프로세서에서 안정적이고 정확한 스루풋 조절을 달성할 수 있는가?
• RQ2 하드웨어 구현과 사이클 수준 시뮬레이션 간에 IPA 인-더-루프 제어 기법의 성능는 어떻게 비교되는가?
• RQ3 편향이 있더라도 저복잡도의 IPA 도함수를 사용해도 실시간 시스템에서 여전히 강건하고 정확한 제어를 달성할 수 있는가?
• RQ4 코어 수준 대비 집합적 스루풋 조절과 같은 시스템 수준 요소가 제어 성능에 미치는 영향은 무엇인가?

주요 결과

• 인텔 허슬 프로세서에서의 하드웨어 구현은 맨포ลด 사이클 수준 시뮬레이션 환경보다 더 뛰어난 조절 성능을 보였다.
• 1,200 MIPS 목표 스루풋에서 Barnes 워크로드는 하드웨어에서 평균 스루풋 오프셋이 -33.5 MIPS였으며, 시뮬레이션 대비 더 큰 오프셋을 보였다.
• Water-ns 워크로드는 하드웨어에서 1,200 MIPS 목표 시 -56.8 MIPS 오프셋을 보였으며, 이는 높은 편차를 의미하지만 여전히 실시간 제어의 허용 범위 내에 있었다.
• 모든 테스트된 목표값(1,200, 1,000, 800 MIPS)에서 하드웨어 구현은 시뮬레이션 대비 더 작은 또는 동등한 오프셋을 보였으며, 이는 실제 구현의 근사치에 대한 강건성을 시사했다.
• 저품질의 근사치가 존재하더라도 제어 시스템은 안정성과 수렴성을 유지하였으며, 이는 저복잡도 설계 원칙의 타당성을 검증하였다.
• 결과적으로, 편향이 있더라도 IPA 기반 기울기 추정치가 최소한의 계산 오버헤드로 효과적인 실시간 제어를 가능하게 한다는 점을 확인하였다.