[論文レビュー] Statistical Temperature Coefficient Distribution in Analog RRAM Array: Impact on Neuromorphic System and Mitigation Method

Heng Xu, Yue Sun+3 more|arXiv (Cornell University)|May 12, 2021

Advanced Memory and Neural Computing参考文献 29被引用数 3

ひとこと要約

本稿では、HfOxベースのアナログ RRAM アレイにおける導電度ドリフトによって低下するニューロモーフィック推論精度の要因である温度係数（Tα）の統計的分布を分析するコンactモデルを提案する。導電度範囲の最適化と電流補償方式を適用することで、400KにおけるMNIST分類精度を79.8%から89.6%に向上させ、高温環境下におけるニューロモーフィックシステムの熱的不安定性を効果的に軽減した。

ABSTRACT

Emerging analog resistive random access memory (RRAM) based on HfOx is an attractive device for non-von Neumann neuromorphic computing systems. The differences in temperature dependent conductance drift among cells hamper computing accuracy, characterized by the statistical distribution of temperature coefficient(T{\alpha}). A compact model was presented in order to investigate the statistical distribution of T{\alpha} under different resistance states. Based on this model, the physical mechanism of thermal instability of cells with a positive T{\alpha} was elucidated. Furthermore, this model can also effectively evaluate the impact of conductance distribution of different levels under various temperatures in artificial neural networks (ANN). An approach incorporating the optimized conductance range selection and the current compensation scheme was proposed to reduce the impacts of the distribution of T{\alpha}. The simulation results showed that recognition accuracy was improved from 79.8% to 89.6% for the application of MNIST handwriting digits classification with a two-layer perceptron at 400K after adopting the proposed optimization method.

研究の動機と目的

• HfOxベースのアナログ RRAM アレイにおける、異なる抵抗状態における温度係数（Tα）の統計的分布を調査すること。
• 多弱いフィラメント構造を有するRRAMにおいて、正のTαを示すセルにおける熱的不安定性の物理的起源を理解すること。
• さまざまな温度条件下における、Tα分布が人工ニューラルネットワーク（ANN）の推論精度に与える影響を評価すること。
• 最適化された導電度範囲選択と電流補償を組み合わせた緩和戦略を構築・検証し、ニューロモーフィックシステムにおける精度回復を実現すること。

提案手法

• 多弱いフィラメント構造を有するHfOx RRAMにおけるSETプロセスおよび酸素空孔のダイナミクスをシミュレートできる2次元アトミスティックシミュレーションモデルを構築し、Tα分布の予測を可能にした。
• Tαの分散を定量化するために、低（12.5–25μS）、中（25–50μS）、高（50–100μS）の3つの導電度範囲における変動係数（cv）を用いた。
• 温度変化に起因する導電度ドリフトを補償するための電流補償方式を設計し、式 ∆𝐼𝑗,𝑇 = −(𝑇𝛼×∆𝑇)/(1+𝑇𝛼×∆𝑇)×𝐼𝑗,𝑇0 を用いた。
• 導電度範囲の選定は、Tαの変動が小さい（低範囲でのcv = 5.48%）ことを根拠とし、安定なウェイトマッピングを実現した。
• 測定された動作温度をリアルタイムで使用して、元の出力電流を回復させる補償電流を適用した。
• 2層パーセプトロンを用いたMNISTでの検証を通じて、300Kから400Kの温度範囲で推論精度を追跡した。

実験結果

リサーチクエスチョン

• RQ1 HfOxベースのRRAMアレイにおける、異なる抵抗状態における温度係数（Tα）の統計的分布は何か？
• RQ2 多弱いフィラメント構造における正のTαを示すRRAMセルの熱的不安定性の背後にある物理的メカニズムは何か？
• RQ3 アレイ全体におけるTα分布が、高温環境下での人工ニューラルネットワークの推論精度にどのように影響を与えるか？
• RQ4 最適化された導電度範囲選択と電流補償を組み合わせることで、Tαに起因する導電度ドリフトに起因する精度低下を効果的に回復できるか？
• RQ5 なぜ補償手法は350K未満で効果を示さないのか？その結果、ニューロモーフィックシステムにおける熱管理にどのような示唆があるか？

主な発見

• 低導電度範囲（12.5–25μS）におけるTαの変動係数（cv）は5.48%であり、中範囲の16.3%や高範囲の32.62%よりも顕著に低く、低導電度セルではTαの均一性が優れていることを示した。
• 400Kにおいて、Tα分布のみを考慮した場合、2層パーセプトロンのMNIST推論精度は、ベースラインの94.48%から79.8%に低下し、Tα分布の影響が顕著であることを示した。
• 提案された最適化と補償手法を適用した結果、400Kにおける平均推論精度は89.6%に回復され、9.8ポイントの向上が達成された。
• 電流補償方式は350K未満で効果を示さなかったことから、低温域では熱的ドリフトが顕著ではなく、熱放出がシステムの性能に与える影響がより重要であることが示唆された。
• 正のTαを示すセルの不安定性の物理的起源は、多弱いフィラメント構造と酸素空孔の分布に起因し、温度変化に伴う非均一な導電度ドリフトを引き起こすことが特定された。
• 本研究では、高温下における保持特性の劣化が精度をさらに低下させることを確認した。これにより、ニューロモーフィックハードウェアにおける効果的な熱管理の重要性が強調された。