[論文レビュー] An Artificial Neural Networks based Temperature Prediction Framework for Network-on-Chip based Multicore Platform

Sandeep Aswath Narayana|arXiv (Cornell University)|Mar 1, 2016

Interconnection Networks and Systems被引用数 9

ひとこと要約

本稿では、ネットワークオンチップ（NoC）ベースのマルチコアプラットフォーム向けに、人工ニューラルネットワーク（ANN）を活用した予測型熱管理フレームワークを提案する。このフレームワークにより、高温部分（ホットスポット）の早期特定が可能となり、能動的な緩和策が取れる。コアおよびNoC要素の温度をANNでモデル化し、高速な制御メッセージ配布を実現するチップ内無線インターコネクトを活用することで、熱的過剰反応（thermal overshoot）を低減し、高コア数システムにおける信頼性を向上させる。

ABSTRACT

Continuous improvement in silicon process technologies has made possible the integration of hundreds of cores on a single chip. However, power and heat have become dominant constraints in designing these massive multicore chips causing issues with reliability, timing variations and reduced lifetime of the chips. Dynamic Thermal Management (DTM) is a solution to avoid high temperatures on the die. Typical DTM schemes only address core level thermal issues. However, the Network-on-chip (NoC) paradigm, which has emerged as an enabling methodology for integrating hundreds to thousands of cores on the same die can contribute significantly to the thermal issues. Moreover, the typical DTM is triggered reactively based on temperature measurements from on-chip thermal sensor requiring long reaction times whereas predictive DTM method estimates future temperature in advance, eliminating the chance of temperature overshoot. Artificial Neural Networks (ANNs) have been used in various domains for modeling and prediction with high accuracy due to its ability to learn and adapt. This thesis concentrates on designing an ANN prediction engine to predict the thermal profile of the cores and Network-on-Chip elements of the chip. This thermal profile of the chip is then used by the predictive DTM that combines both core level and network level DTM techniques. On-chip wireless interconnect which is recently envisioned to enable energy-efficient data exchange between cores in a multicore environment, will be used to provide a broadcast-capable medium to efficiently distribute thermal control messages to trigger and manage the DTM schemes.

研究の動機と目的

• 電力密度の上昇と熱の蓄積に起因する、高コア数マルチコアチップにおける増大する熱的課題に対処すること。
• 温度センサからの遅延したフィードバックに依存する反応型ダイナミック・サーマル・マネジメント（DTM）の限界を克服すること。
• 人工ニューラルネットワークを用いて、将来の温度プロファイルを事前に予測する予測型DTMフレームワークを開発すること。
• NoCベースのアーキテクチャにおける包括的熱管理を実現するため、コアレベルとネットワークレベルの両方の熱管理を統合すること。
• チップ内無線インターコネクトを活用して、低遅延応答を実現する熱制御コマンドの効率的配布を可能にすること。

提案手法

• 履歴的な熱的データおよびワークロードデータを基に、コアおよびNoC部品の将来の温度プロファイルを予測するための人工ニューラルネットワーク（ANN）を訓練する。
• ANNモデルは、コア間およびルータ間の相互作用を含む、チップ全体における複雑で非線形な熱的ダイナミクスを学習する。
• リアルタイムのワークロードおよび温度データを入力とすることで、次の時間区間における予測温度マップを生成する。
• 予測型DTMは、温度閾値に達する前に熱的緩和戦略を発動させることで、熱的過剰反応を回避する。
• チップ内無線インターコネクトを用いて、すべての処理要素に低遅延で熱制御コマンドをブロードキャストする。
• コアレベルのDTM（例：電圧/周波数スケーリング）とネットワークレベルのDTM（例：トラフィックシェーピング）を統合し、包括的な熱管理を実現する。

実験結果

リサーチクエスチョン

• RQ1 人工ニューラルネットワークは、マルチコアシステムにおけるコアおよびNoC部品の熱的挙動を高精度で予測できるか？
• RQ2 ANN予測に基づく予測型DTMは、反応型DTMと比較して、熱的過剰反応および応答時間の点でどのように異なるか？
• RQ3 NoCベースのアーキテクチャにおいて、ネットワークレベルの熱管理とコアレベル技術を統合することで、どのような影響が生じるか？
• RQ4 チップ内無線インターコネクトは、リアルタイムの熱適応に向けた熱制御コマンドをどの程度効率的に配布できるか？
• RQ5 異なるワークロードパターンおよびチップ構成において、ANNベースの予測フレームワークのスケーラビリティはどの程度か？

主な発見

• 提案されたANNベースの予測フレームワークは、コアおよびNoCルータの両方において高い精度で温度トレンドを予測し、能動的熱管理を可能にした。
• 予測型DTMは、温度上昇を事前に予測することで、熱的過剰反応を低減し、熱的セーフティマージンを向上させた。
• コアレベルとネットワークレベルのDTM技術の統合により、チップ全体にわたるより均一な温度分布が実現された。
• チップ内無線インターコネクトにより、低遅延でブロードキャスト方式の熱制御コマンド配布が可能となり、システムの応答性が向上した。
• 早期干渉によりホットスポットを回避することで、フレームワークは信頼性の向上とチップ寿命の延長を実現した。
• モデルのさまざまなワークロードへの適応性から、多様なマルチコアコンピューティング環境への展開可能性が示唆された。