[論文レビュー] Neuromorphic Computing with Deeply Scaled Ferroelectric FinFET in Presence of Process Variation, Device Aging and Flicker Noise.

Sourav De, Bo-Han Qiu+5 more|arXiv (Cornell University)|Mar 5, 2021

Advanced Memory and Neural Computing参考文献 14被引用数 16

ひとこと要約

この論文は、プロセスばらつき、フレッカーノイズ、デバイス劣化という非理想要因が存在する中でも、6 nm HfZrO2層を有する深くスケーリングされたフェロエレクトリック FinFETが、頑健なニューロモーラルコンピューティングを可能にすることを示している。事前学習済みの97.5%の精度を示すMNISTネットワークを用いて、すべての非理想要因下でバイナリニューラルネットワークがアナログおよび四値（2ビット/セル）の対応よりも優れた性能を示し、10年以上の予想保持時間が達成された。これは、最適化されたアーキテクチャとアルゴリズムと組み合わせることで、フェロエレクトリック FinFETが非フォン・ノイマンコンピューティングに実用可能であることを裏付けている。

ABSTRACT

This paper reports a comprehensive study on the applicability of ultra-scaled ferroelectric FinFETs with 6 nm thick hafnium zirconium oxide layer for neuromorphic computing in the presence of process variation, flicker noise, and device aging. An intricate study has been conducted about the impact of such variations on the inference accuracy of pre-trained neural networks consisting of analog, quaternary (2-bit/cell) and binary synapse. A pre-trained neural network with 97.5% inference accuracy on the MNIST dataset has been adopted as the baseline. Process variation, flicker noise, and device aging characterization have been performed and a statistical model has been developed to capture all these effects during neural network simulation. Extrapolated retention above 10 years have been achieved for binary read-out procedure. We have demonstrated that the impact of (1) retention degradation due to the oxide thickness scaling, (2) process variation, and (3) flicker noise can be abated in ferroelectric FinFET based binary neural networks, which exhibits superior performance over quaternary and analog neural network, amidst all variations. The performance of a neural network is the result of coalesced performance of device, architecture and algorithm. This research corroborates the applicability of deeply scaled ferroelectric FinFETs for non-von Neumann computing with proper combination of architecture and algorithm.

研究の動機と目的

• 6 nm HfZrO2を有する超スケーリングされたフェロエレクトリック FinFETが、現実のデバイス非理想要因下でニューロモーラルコンピューティングに適しているかどうかを評価すること。
• プロセスばらつき、フレッカーノイズ、デバイス劣化が、アナログ、四値（2ビット/セル）、バイナリシナプスを用いたニューラルネットワークの推論精度に与える影響を分析すること。
• デバイスレベルのばらつきを正確に捉える統計モデルを構築すること。
• 酸化膜厚さのスケーリング下でのフェロエレクトリック FinFETにおける長期的データ保持を実証すること。
• バイナリニューラルネットワークが、アナログおよび四値の代替手法と比較して、すべての非理想要因下でも優れた性能を維持できることを検証すること。

提案手法

• 評価の基準として、MNIST推論精度97.5%の事前学習済みニューラルネットワークが用いられた。
• プロセスばらつき、フレッカーノイズ、デバイス劣化の影響をシミュレーション中に捉えるための統計モデルが開発された。
• 保持、ばらつき、ノイズ特性のパラメータ抽出のため、デバイスレベルの特性評価が実施された。
• 開発された統計モデルを用いて、プロセスばらつき、フレッカーノイズ、劣化の併存効果を考慮したニューラルネットワークのシミュレーションが実施された。
• 同一条件下で、バイナリ、四値（2ビット/セル）、アナログのシナプス実装が比較された。
• 酸化膜厚さのスケーリング下で、デバイスモデルを用いて10年以上の保持時間の外挿が達成された。

実験結果

リサーチクエスチョン

• RQ1 6 nm HfZrO2を有する超スケーリングされたフェロエレクトリック FinFETは、プロセスばらつき、フレッカーノイズ、デバイス劣化の下でも、信頼性のあるニューロモーラル推論を維持できるか？
• RQ2 プロセスばらつき、フレッカーノイズ、保持劣化が、アナログ、四値、バイナリニューラルネットワーク実装の推論精度に与える影響は何か？
• RQ3 デバイス非理想要因の併存効果は、アーキテクチャ的・アルゴリズム的設計によって効果的にモデル化・緩和可能か？
• RQ4 同じ非理想条件下で、バイナリシナプス表現がアナログおよび四値表現を上回る性能を示すか？
• RQ5 酸化膜厚さのスケーリング下で、フェロエレクトリック FinFETを用いたバイナリシナプスの外挿されたデータ保持時間はどの程度か？

主な発見

• フェロエレクトリック FinFETを用いたバイナリニューラルネットワークは、すべての非理想要因下でアナログおよび四値実装よりも優れた推論精度を達成した。
• 酸化膜厚さのスケーリング、プロセスばらつき、フレッカーノイズによる保持劣化の影響が、バイナリニューラルネットワークで効果的に緩和された。
• フェロエレクトリック FinFETにおけるバイナリリードアウト手順の外挿保持時間が10年以上に達した。
• 統計モデルは、プロセスばらつき、フレッカーノイズ、デバイス劣化がニューラルネットワーク性能に与える影響を的確に捉えた。
• ニューラルネットワークの性能は、デバイス、アーキテクチャ、アルゴリズムの統合的結果であり、最適な協調作用が頑健なニューロモーラルコンピューティングを可能にした。