[論文レビュー] Deep Random Forest with Ferroelectric Analog Content Addressable Memory

Xunzhao Yin, Franz Müller+15 more|arXiv (Cornell University)|Oct 6, 2021

Ferroelectric and Negative Capacitance Devices参考文献 12被引用数 11

ひとこと要約

本論文は、深層ランダムフォレスト（DRF）のためのフェロエレクトリックアナログコンテンツアドレスエーブルメモリ（FeFET ACAM）ベースのアクセラレータを提案し、意思決定木の分岐スプリットにおけるエネルギー効率が高く、高速な関連検索を実現する。決定境界をFeFET内のアナログ分極状態として格納することで、CPU/ReRAMベースのDRFアクセラレータと比較して、エネルギー効率で約10⁶×/16×、遅延で約10⁶×/2.5×の向上を達成する。

ABSTRACT

Deep random forest (DRF), which incorporates the core features of deep learning and random forest (RF), exhibits comparable classification accuracy, interpretability, and low memory and computational overhead when compared with deep neural networks (DNNs) in various information processing tasks for edge intelligence. However, the development of efficient hardware to accelerate DRF is lagging behind its DNN counterparts. The key for hardware acceleration of DRF lies in efficiently realizing the branch-split operation at decision nodes when traversing a decision tree. In this work, we propose to implement DRF through simple associative searches realized with ferroelectric analog content addressable memory (ACAM). Utilizing only two ferroelectric field effect transistors (FeFETs), the ultra-compact ACAM cell can perform a branch-split operation with an energy-efficient associative search by storing the decision boundaries as the analog polarization states in an FeFET. The DRF accelerator architecture and the corresponding mapping of the DRF model to the ACAM arrays are presented. The functionality, characteristics, and scalability of the FeFET ACAM based DRF and its robustness against FeFET device non-idealities are validated both in experiments and simulations. Evaluation results show that the FeFET ACAM DRF accelerator exhibits 10^6x/16x and 10^6x/2.5x improvements in terms of energy and latency when compared with other deep random forest hardware implementations on the state-of-the-art CPU/ReRAM, respectively.

研究の動機と目的

• エッジデバイスに適した軽量で解釈可能なAIモデルとしての深層ランダムフォレスト（DRF）のための効率的なハードウェアアクセラレーションの欠如に対処すること。
• リソース制限のあるIoT環境におけるDNNの高いエネルギーおよび遅延のオーバーヘッドを克服すること。
• フェロエレクトリックアナログコンテンツアドレスエーブルメモリ（ACAM）を用いた、効率的でスケーラブルかつ頑健なDRF推論を実現すること。
• FeFETベースのACAMが、高い精度と低い面積オーバーヘッドで意思決定木の分岐スプリット演算を実行できることを示すこと。
• FeFETデバイスの非理想特性、例えばしきい値電圧のばらつきやプロセスばらつきに対するシステムの頑健性を検証すること。

提案手法

• 意思決定境界のしきい値をアナログ分極状態として格納するフェロエレクトリックフィールド効果トランジスタ（FeFET）を用いてDRFを実装すること。
• 2つのFeFETのみで構成される超コンactなACAMセルを設計し、意思決定木における分岐スプリット意思決定のための関連検索を実行すること。
• DRFモデルをACAMアレイにマッピングすることで、推論中に並列でエネルギー効率の高いパターンマッチングを可能にすること。
• 2段階の検索戦略を採用：まず上位Nビット（MSB）の区間を特定し、次に下位Mビット（LSB）を精査することで高精度なしきい値マッチングを実現すること。
• マッチライン電流の放電を検出するセンスアンプを採用し、アレイサイズやリーク電流の変動に応じてタイミングを調整すること。
• 実際のデバイスの非理想特性を想定したSPICEシミュレーションおよび実験的特性評価を通じて、機能性と頑健性を検証すること。

実験結果

リサーチクエスチョン

• RQ1 FeFETベースのアナログCAMは、深層ランダムフォレスト内の意思決定木の分岐スプリット演算を、効率的にアクセラレートできるか？
• RQ2 本提案のFeFET ACAMベースのDRFアクセラレータは、既存のCPUおよびReRAMベースのDRFアクセラレータと比較して、エネルギーと遅延の面でどの程度優れているか？
• RQ3 FeFETデバイスのばらつき、特にしきい値電圧（VTH）の不一致やプロセスばらつきに対して、システムはどの程度頑健か？
• RQ4 限られた精度のFeFET ACAMセルを用いて、分岐スプリットしきい値の精度を拡張できるか？
• RQ5 実世界のデータセット（MNISTやSEMGなど）において、意思決定境界の変動がDRF分類精度に与える影響は何か？

主な発見

• FeFET ACAM DRFアクセラレータは、最先端のCPUベースのDRF実装と比較して、エネルギー効率で約10⁶×、遅延で16×の向上を達成する。
• ReRAMベースのDRFアクセラレータと比較して、エネルギー効率で約10⁶×、遅延で2.5×の向上を達成する。
• FeFETのしきい値電圧のばらつきに対しても高い分類精度を維持し、メモリウィンドウの4%の標準偏差の範囲で、デバイスの非理想特性に対する頑健性を示す。
• MNISTデータセットでは、意思決定境界の変動に対しても精度が安定しており、バイナリ入力が小さなしきい値シフトに強く、ロバストである。
• SEMGデータセットでは、意思決定境界の変動がメモリウィンドウの7%を超えた場合にのみ、精度の低下が顕著に現れるが、これはFeFETで観測された実際の4%のばらつきを上回る。
• 128×128のFeFET ACAMアレイは、EEGおよびPET/CTてんかん検出の3ビット精度ランダムフォレストを実装し、分類あたり2.91 pJ、分類時間1.9 nsを達成した。