[論文レビュー] Special Session: Reliability Analysis for ML/AI Hardware

Shamik Kundu, Kanad Basu+5 more|arXiv (Cornell University)|Mar 22, 2021

Advanced Memory and Neural Computing参考文献 79被引用数 4

ひとこと要約

本論文は、ML/AIハードウェアにおける信頼性課題に焦点を当て、DNNアクセラレータにおけるDRAM故障とニューロモルフィックシステムにおける回路の老化・耐久性に着目している。システムレベルの緩和技術を提案する——スパikingニューラルネットワークにおける回路老化を低減するRENEUと、インtelリジェントなワークロードマッピングによりPCMの耐久性を向上させるeSpineであり、ニューロモルフィックハードウェアにおいて平均38%の老化低減と寿命の延長を達成した。

ABSTRACT

Artificial intelligence (AI) and Machine Learning (ML) are becoming pervasive in today's applications, such as autonomous vehicles, healthcare, aerospace, cybersecurity, and many critical applications. Ensuring the reliability and robustness of the underlying AI/ML hardware becomes our paramount importance. In this paper, we explore and evaluate the reliability of different AI/ML hardware. The first section outlines the reliability issues in a commercial systolic array-based ML accelerator in the presence of faults engendering from device-level non-idealities in the DRAM. Next, we quantified the impact of circuit-level faults in the MSB and LSB logic cones of the Multiply and Accumulate (MAC) block of the AI accelerator on the AI/ML accuracy. Finally, we present two key reliability issues -- circuit aging and endurance in emerging neuromorphic hardware platforms and present our system-level approach to mitigate them.

研究の動機と目的

• デバイスレベルの非理想性と可変な保持時間による、DNNアクセラレータにおけるDRAMビットレベルの故障が分類精度に与える影響を分析すること。
• MACユニットがMSBおよびLSB論理コーンにおける回路故障に対してどれほど感受的であるかを評価し、許容可能な精度低下の閾値を超えない範囲での耐故障性領域を同定すること。
• PCMベースのクロスバーを用いた新規ニューロモルフィックハードウェアにおける回路老化および耐久性制限を解決すること。
• ワークロードマッピングとハードウェア信頼性制約を同時に最適化するシステムレベル技術の開発により、長期的な信頼性と精度の向上を図ること。

提案手法

• DNNアクセラレータのDRAMメモリサブシステムにビット単位の故障を注入し、複数の量子化DNNモデルにおける精度低下を特徴づける。
• 多変量データセットを用いた包括的な故障特徴づけを実施し、インフェンス精度に与えるDRAM保持時間およびリフレッシュレートの影響を評価した。
• MSBおよびLSB論理コーンを分離してMAC回路の故障を分析し、許容可能な精度低下にとどまるための故障耐性閾値を特定した。
• RENUは、老化モデルに基づいてニューロンおよびシナプスの配置を最適化することで、ニューロモルフィックハードウェアにおける回路老化を低減するシステムレベルのマッピング手法である。
• eSpineは、Kernighan-Linグラフ分割法と粒子群最適化（PSO）を用いた二段階フレームワークであり、耐久性が異なるPCMクロスバーへのワークロードマッピングを実現した。
• PCMクロスバーにおける寄生電圧低下と自己加熱を技術認識型モデルとして統合し、耐久性向上を目的とした配置意思決定を支援した。

実験結果

リサーチクエスチョン

• RQ1 可変な保持時間に起因するDRAMビット反転故障が、エッジアクセラレータにおける量子化DNNのインフェンス精度にどのように影響を与えるか？
• RQ2 MACユニットがMSBおよびLSB論理コーンにおける回路レベルの故障に対してどれほど感受的であるか。また、精度低下の閾値を超えない範囲での許容可能な故障率はどの程度か？
• RQ3 PCMクロスバーにおける寄生電圧低下に起因する自己加熱の非対称性が、ニューロモルフィックハードウェアにおけるシナプス重みの耐久性にどのように影響を与えるか？
• RQ4 システムレベルのワークロードマッピング技術は、回路老化を低減し、PCMベースのシナプスを備えたニューロモルフィックアクセラレータの有効寿命を延長できるか？

主な発見

• 高リフレッシュ間隔におけるDRAM故障は、特に重要なメモリ領域でのビット反転により、低故障率であってもDNNアクセラレータの分類精度に顕著な低下を引き起こす。
• MACユニットのMSB論理コーンにおける回路故障は、DNN精度に顕著に大きな影響を及ぼし、信頼性強化の対象として特に重要である。
• LSB論理コーンにおける故障は、アプリケーション固有の閾値まで許容可能であるが、これを超えると許容限界を超えて精度が低下する。
• RENUEは、老化モデルに基づくニューロンおよびシナプス配置最適化により、PyCARLと比較して平均38%の回路老化低減を達成した。
• eSpineは、高活性化シナプスを高耐久性PCMセルにマッピングすることで、PCMベースのニューロモルフィックハードウェアの有効寿命を向上させ、老化に起因する故障率を低減した。
• PCMクロスバーにおける寄生電圧低下は、顕著な自己加熱の非対称性を引き起こし、アレイ全体で耐久性が10⁶～10¹⁰サイクルの範囲で変動し、高電流経路を通過するセルが最も速く劣化した。