[論文レビュー] Fast offset corrected in-memory training

Malte J. Rasch, Fabio Carta+2 more|arXiv (Cornell University)|Mar 8, 2023

Advanced Memory and Neural Computing被引用数 4

ひとこと要約

本稿では、チョッパーとリアルタイムでのリファレンス推定を用いて、抵抗性クロスバー配列におけるデバイスオフセットエラーを補正する2つの新しいメモリ内学習アルゴリズム、Chopped-TTv2 (c-TTv2) と Analog Gradient Accumulation with Dynamic Reference (AGAD) を提案する。両アルゴリズムは、O(n) の実行時間計算量を維持しながら、デバイスの非理想性やオフセット変動が生じる状況下でも、わずか20のコンダクタンス状態で正確な学習が可能である。

ABSTRACT

In-memory computing with resistive crossbar arrays has been suggested to accelerate deep-learning workloads in highly efficient manner. To unleash the full potential of in-memory computing, it is desirable to accelerate the training as well as inference for large deep neural networks (DNNs). In the past, specialized in-memory training algorithms have been proposed that not only accelerate the forward and backward passes, but also establish tricks to update the weight in-memory and in parallel. However, the state-of-the-art algorithm (Tiki-Taka version 2 (TTv2)) still requires near perfect offset correction and suffers from potential biases that might occur due to programming and estimation inaccuracies, as well as longer-term instabilities of the device materials. Here we propose and describe two new and improved algorithms for in-memory computing (Chopped-TTv2 (c-TTv2) and Analog Gradient Accumulation with Dynamic reference (AGAD)), that retain the same runtime complexity but correct for any remaining offsets using choppers. These algorithms greatly relax the device requirements and thus expanding the scope of possible materials potentially employed for such fast in-memory DNN training.

研究の動機と目的

• 抵抗性クロスバー配列におけるメモリ内ディープラーニング学習の実用性を制限する主要因であるデバイスオフセットエラーに対処する。
• 最新のTTv2においては完璧な対称点（SP）に依存しているが、これはプログラミングの不正確さや材料の不安定性に対して感受性が高いため、これを克服する。
• デバイス材料に対する厳密な要件を緩和し、オフセット変動や非理想的なスイッチング動作に対しても耐性のある学習を可能にする。
• O(n) の実行時間計算量を維持することで、高い計算効率を確保しつつ、勾配更新の正確性を向上させる。
• 現在および将来の抵抗性メモリ技術で実現可能な範囲で、コンダクタンス状態数を減らした学習を可能にする（例：20状態）。

提案手法

• c-TTv2は、読み出し段階で勾配信号の符号を反転させるチョッパーを用い、安定した対称点が不要なオフセット補正を実現する。
• AGADは、最近の勾配信号の移動平均を用いてリアルタイムでリファレンス値を推定する。これにより、専用のリファレンスクロスバーの必要性がなくなる。
• 両アルゴリズムとも、メモリ内での順方向および逆方向伝搬、パルス一致を用いた外積勾配計算に、コアとなるTTv2アーキテクチャをそのまま採用する。
• 勾配蓄積は列ごとのデジタル処理で実施され、更新の安定化のためにノイズフィルタリングが適用される。
• アルゴリズムはデジタルで保持される隠れ行列Hを用い、しきい値に達した場合にのみ重み更新が発火する。
• c-TTv2は、デジタル蓄積の前に勾配信号の符号を反転させることでオフセットを補正する。一方、AGADは信号を正規化するための動的リファレンスを計算する。

Figure 1: Physical implementaton of in-memory matrix-vector multiplication ( MVM ) for forward and backward passes and outer product update according to Gokmen & Vlasov ( 2016 ) .

実験結果

リサーチクエスチョン

• RQ1 完璧な対称点が不要な条件下でも、デバイスオフセットエラーに対して頑健なメモリ内学習が可能か？
• RQ2 高い学習精度を維持しつつ、必要なコンダクタンス状態数を削減できるか？
• RQ3 オフセット変動や材料の不安定性は、TTv2のような既存のメモリ内学習アルゴリズムの性能にどのように影響を与えるか？
• RQ4 動的リファレンス推定により、専用のリファレンスクロスバーの必要性を排除でき、耐性が向上するか？
• RQ5 現実的なデバイスの非理想性下で、20のコンダクタンス状態のみでc-TTv2およびAGADが、ほぼ浮動小数点精度に達するか、その程度はどの程度か？

主な発見

• c-TTv2は、あるしきい値までオフセットエラーを効果的に補正でき、TTv2に比べて著しく頑健性が向上している。
• AGADはリファレンスオフセットに対して完全に感受性がなく、テストされたすべてのDNNおよびデバイスモデルで、TTv2およびc-TTv2を常に上回る性能を示した。
• 20のコンダクタンス状態で、c-TTv2およびAGADの両方とも、浮動小数点ベースラインに近いか、それ以下のテスト誤差を達成した。特に、重みクロスバーの対称点が補正された場合には顕著に改善した。
• AGADの性能は、コンダクタンス状態数が増えるにつれて向上する傾向にあり、より高度な材料へのスケーラビリティが示唆された。
• オフセットエラーが存在しない状況でも、両アルゴリズムはTTv2を上回っており、勾配計算および更新精度における本質的な利点が裏付けられた。
• 結果から、20の状態でオフセット補正を組み合わせることで、高精度なメモリ内学習が可能であることが確認された。これにより、抵抗性クロスバー配列の実現可能な材料空間が拡張された。

Figure 2: Improved in-memory training algorithms, c-TTv2 and AGAD . The blue color indicates equations unique and in addition for AGAD . The reference subtraction (in red) is not needed for AGAD . Removing blue equations and fixing the choppers recovers TTv2 .