[논문 리뷰] An Artificial Neural Networks based Temperature Prediction Framework for Network-on-Chip based Multicore Platform

Sandeep Aswath Narayana|arXiv (Cornell University)|2016. 03. 01.

Interconnection Networks and Systems인용 수 9

한 줄 요약

이 논문은 네트워크온칩(Network-on-Chip, NoC) 기반 다코어 플랫폼을 위한 인공신경망(Artificial Neural Network, ANN) 기반 예측 열관리 프레임워크를 제안한다. 이는 핫스팟을 사전에 방지하기 위해 조기에 온도를 예측할 수 있도록 하여 능동적인 열 관리가 가능하게 한다. 코어와 NoC 요소의 온도를 ANN로 모델링하고, 고속 제어 메시지 전달을 위해 칩 내 무선 연결을 활용함으로써, 이 프레임워크는 열 과도 상승을 줄이고 고코어 수 시스템의 신뢰성을 향상시킨다.

ABSTRACT

Continuous improvement in silicon process technologies has made possible the integration of hundreds of cores on a single chip. However, power and heat have become dominant constraints in designing these massive multicore chips causing issues with reliability, timing variations and reduced lifetime of the chips. Dynamic Thermal Management (DTM) is a solution to avoid high temperatures on the die. Typical DTM schemes only address core level thermal issues. However, the Network-on-chip (NoC) paradigm, which has emerged as an enabling methodology for integrating hundreds to thousands of cores on the same die can contribute significantly to the thermal issues. Moreover, the typical DTM is triggered reactively based on temperature measurements from on-chip thermal sensor requiring long reaction times whereas predictive DTM method estimates future temperature in advance, eliminating the chance of temperature overshoot. Artificial Neural Networks (ANNs) have been used in various domains for modeling and prediction with high accuracy due to its ability to learn and adapt. This thesis concentrates on designing an ANN prediction engine to predict the thermal profile of the cores and Network-on-Chip elements of the chip. This thermal profile of the chip is then used by the predictive DTM that combines both core level and network level DTM techniques. On-chip wireless interconnect which is recently envisioned to enable energy-efficient data exchange between cores in a multicore environment, will be used to provide a broadcast-capable medium to efficiently distribute thermal control messages to trigger and manage the DTM schemes.

연구 동기 및 목표

• 전력 밀도와 열 축적으로 인해 증가하는 고코어 수 다코어 칩의 열 문제를 해결하기 위해.
• 지연된 온도 센서 피드백에 의존하는 반응형 동적 열 관리(Dynamic Thermal Management, DTM)의 한계를 극복하기 위해.
• 인공신경망을 사용해 향후 온도 프로파일을 사전 예측하는 예측형 DTM 프레임워크를 개발하기 위해.
• NoC 기반 아키텍처에서 종합적인 열 제어를 위해 코어 수준과 네트워크 수준의 열 관리를 통합하기 위해.
• 저지연 응답을 위해 칩 내 무선 상호연결을 활용해 열 제어 명령을 효율적으로 배포하기 위해.

제안 방법

• 역사적 열 및 워크로드 데이터를 기반으로 코어와 NoC 구성 요소의 향후 온도 프로파일을 예측하기 위해 인공신경망(ANN)을 학습한다.
• ANN 모델은 코어와 네트워크 라우터 간의 상호작용을 포함한 칩 전반의 복잡한 비선형 열역학적 동역학을 학습한다.
• 실시간 워크로드 및 온도 데이터를 입력으로 사용해 다음 시간 간격 동안의 예측 열지도를 생성한다.
• 예측형 DTM은 온도 임계치에 도달하기 전에 열 저감 전략을 실행함으로써 열 과도 상승을 방지한다.
• 칩 내 무선 상호연결을 활용해 모든 처리 요소에 저지연으로 열 제어 명령을 브로드캐스트한다.
• 총체적인 열 제어를 위해 코어 수준의 DTM(예: 전압/주파수 스케일링)과 네트워크 수준의 DTM(예: 트래픽 형상 조절)을 통합한다.

실험 결과

연구 질문

• RQ1 인공신경망이 다코어 시스템의 코어와 NoC 구성 요소의 열적 행동을 정확하게 예측할 수 있는가?
• RQ2 ANN 예측 기반 예측형 DTM는 반응형 DTM에 비해 열 과도 상승과 반응 시간 측면에서 어떻게 비교되는가?
• RQ3 NoC 기반 아키텍처에서 네트워크 수준의 열 관리와 코어 수준 기술을 통합할 경우 어떤 영향을 미치는가?
• RQ4 칩 내 무선 상호연결을 통해 열 제어 명령을 실시간 열 적응에 효과적으로 배포할 수 있는가?
• RQ5 다양한 워크로드 패턴과 칩 구성에 대해 ANN 기반 예측 프레임워크의 확장성은 어떠한가?

주요 결과

• 제안된 ANN 기반 예측 프레임워크는 코어와 NoC 라우터의 온도 변화 추세를 높은 정확도로 예측하여 능동적 열 관리를 가능하게 한다.
• 예측형 DTM는 온도 상승을 사전에 예측함으로써 열 과도 상승을 줄이고 열 안전 마진을 향상시킨다.
• 코어 수준과 네트워크 수준의 DTM 기술 통합은 칩 전반에 걸쳐 더 균일한 열 분포를 만들어낸다.
• 칩 내 무선 상호연결은 저지연 브로드캐스트 기반의 열 제어 명령 배포를 가능하게 하여 시스템의 반응성을 향상시킨다.
• 조기 간섭을 통해 핫스팟을 방지함으로써 신뢰성 향상과 칩 수명 연장이 가능하다.
• 모델의 다양한 워크로드에 대한 적응 가능성은 다양한 다코어 컴퓨팅 환경에의 도입 잠재력을 시사한다.