[論文レビュー] An Ultra-Compact Single FeFET Binary and Multi-Bit Associative Search Engine

Xunzhao Yin, Franz Müller+13 more|arXiv (Cornell University)|Mar 15, 2022

Ferroelectric and Negative Capacitance Devices被引用数 6

ひとこと要約

本稿では、メモリ内でのハミング距離計算を併せ持つ、バイナリ（正確および近似）およびマルチビットの関連検索を可能にする、超コンactな1FeFETベースのコンテンツアドレスラブルメモリ（CAM）アレイを提示する。FeFET構造に直列抵抗を統合し、2段階のセンシング方式を採用することで、これまでで最高のCAMセル密度を達成した。ゲノムパターンマッチングにおけるハイパーサイディメンショナルコンピューティングを用いた実験では、GPUベースのアラインメントツールと比較して89.9倍の高速化と66.5倍のエネルギー効率向上を達成した。

ABSTRACT

Content addressable memory (CAM) is widely used in associative search tasks for its highly parallel pattern matching capability. To accommodate the increasingly complex and data-intensive pattern matching tasks, it is critical to keep improving the CAM density to enhance the performance and area efficiency. In this work, we demonstrate: i) a novel ultra-compact 1FeFET CAM design that enables parallel associative search and in-memory hamming distance calculation; ii) a multi-bit CAM for exact search using the same CAM cell; iii) compact device designs that integrate the series resistor current limiter into the intrinsic FeFET structure to turn the 1FeFET1R into an effective 1FeFET cell; iv) a successful 2-step search operation and a sufficient sensing margin of the proposed binary and multi-bit 1FeFET1R CAM array with sizes of practical interests in both experiments and simulations, given the existing unoptimized FeFET device variation; v) 89.9x speedup and 66.5x energy efficiency improvement over the state-of-the art alignment tools on GPU in accelerating genome pattern matching applications through the hyperdimensional computing paradigm.

研究の動機と目的

• データ集約型AIおよびIoTワークロードにおけるボルツマン型アーキテクチャのメモリウォールとエネルギー非効率性を解決すること。
• 新興の非揮発性メモリを用いて、従来のCAM設計の低面積効率性と高デバイス数の課題を克服すること。
• ゲノム配列決定やハイパーサイディメンショナルコンピューティングなどの応用に適した、高密度かつ低消費電力の関連検索を、正確および近似マッチングの両方を可能にするものとして実現すること。
• 実験的に検証された1FeFET CAMアレイを実装し、統合型電流制限および2段階センシングを用いて、FeFETデバイスのばらつきに対しても堅牢な動作を実現すること。

提案手法

• FeFETの直列抵抗をモノリシックに統合することで、1FeFET1Rセルを設計し、ON状態電流のフラクチュエーションを抑制し、デバイス動作を安定化させる。
• 2段階の検索動作を実装する：第1段階では低インピーダンス経路を用いてマッチ/アンマッチをセンシングし、第2段階ではすべてのビットが一致する場合にのみ信号を増幅することで、バイナリおよびマルチビットCAM機能を両立させる。
• 温度計コードADCをセンスアンプとして使用し、ML電流を出力電圧に変換することで、ハミング距離またはマッチ状態を直接示す。
• ハイパーサイディメンショナルコンピューティング（HDC）パラダイムを活用し、ゲノムパターンマッチングタスクをCAMアレイにマッピングすることで、並列かつメモリ内での近似検索とハミング距離のしきい値処理を実現する。
• 実際のデバイスばらつきを想定したシミュレーションおよび1FeFET1R構造の実験的特性評価を通じて、設計を検証する。

実験結果

リサーチクエスチョン

• RQ1 統合された直列抵抗を有する1つのFeFETが、正確および近似マッチングの両方を実現する安定的でスケーラブルかつコンactなCAM動作を達成できるか？
• RQ2 2段階センシング方式が、マッチ/アンマッチ状態を信頼性高く区別でき、1FeFET CAMアレイにおいてメモリ内ハミング距離計算を可能にするか？
• RQ3 提案された1FeFET CAM設計が、既存の複数デバイス構成のCAMアーキテクチャと比較して、優れた面積効率と性能を達成するか？
• RQ4 1FeFET CAMアレイが、HDCフレームワークを用いて、ゲノムパターンマッチングのような実世界の応用を効果的に高速化できるか？

主な発見

• 提案された1FeFET1R構造は、FeFETに直列抵抗を統合することで、電流のフラクチュエーションを抑制し、最小限の面積オーバーヘッドで安定した動作を実現した。
• 2段階検索動作は、最適化されていないFeFETデバイスのばらつきに対しても十分なセンシングマージンを達成しており、シミュレーションおよび実験の両方で耐障害性が検証された。
• 1FeFET CAMアレイは、1セルあたり1デバイスのアーキテクチャのおかげで、2T-2RRAMおよび2FeFET設計を上回る、報告済みで最高のCAMセル密度を達成した。
• アレイは、近似検索のためのメモリ内ハミング距離計算と、マルチビット検索のための正確マッチングを両立させ、1セルで二重機能を実現した。
• ゲノムパターンマッチングの応用において、1FeFET CAMベースのHDCエンジンは、最先端のGPUベースのツール（NVBIO/GPU-BLAST）と比較して、平均89.9倍の高速化と66.5倍のエネルギー効率向上を達成した。