[論文レビュー] Attention Approximates Sparse Distributed Memory

Trenton Bricken, Cengiz Pehlevan|arXiv (Cornell University)|Nov 10, 2021

Ferroelectric and Negative Capacitance Devices参考文献 64被引用数 6

ひとこと要約

この論文は、自己注意機構が、生物学的に妥当な連想記憶モデルであるKanervaのスパース分散記憶（SDM）を数学的に近似することを示している。特に事前学習済みのGPT-2モデルにおいて、注意のソフトマックス操作がSDMの超球交差メカニズムと非常に類似しており、注意機構を分散記憶の再取得メカニズムとして、新たな機械的・生物学的解釈が可能である。

ABSTRACT

While Attention has come to be an important mechanism in deep learning, there remains limited intuition for why it works so well. Here, we show that Transformer Attention can be closely related under certain data conditions to Kanerva's Sparse Distributed Memory (SDM), a biologically plausible associative memory model. We confirm that these conditions are satisfied in pre-trained GPT2 Transformer models. We discuss the implications of the Attention-SDM map and provide new computational and biological interpretations of Attention.

研究の動機と目的

• 自己注意機構とKanervaのスパース分散記憶（SDM）との間の正式な数学的関係を確立すること。SDMは生物学的に妥当な連想記憶モデルである。
• 事前学習済みモデル（例：GPT-2）における注意機構の構造的・機能的性質が、現実的なデータ条件下でSDMの原則と一致するかどうかを調査すること。
• 注意機構を高次元の近似再取得メカニズムとして再定式化することで、新たな計算的・生物学的解釈を提供すること。
• この対応関係が、注意機構の成功、解釈可能性、および脳における神経的実装の可能性に与える影響を検討すること。

提案手法

• ソフトマックス注意機構とSDMのリード操作との間の数学的同等性を導出し、注意機構における指数関数の和の指数関数的処理が、SDMにおける高次元超球の交差を近似していることを示す。
• クエリ・キー正規化されたTransformerを用いて、事前学習済みGPT-2モデルにおけるSDM-注意対応関係を実証的に検証する。
• 異なる数の神経細胞とハミング距離を用いてSDMをシミュレートし、ノイズ下での収束性と頑健性をテストし、バイナリSDMと連続SDMの変種を比較する。
• MNISTおよびCIFAR-10データセットにおけるSDMの臨界距離を向上させるための射影行列を学習し、一般化性能と性能向上を評価する。
• パターン相関とデータの複雑さの役割を、MNIST（低複雑性）とCIFAR-10（高複雑性）データセットの比較を通じて分析する。
• コサイン類似度とハミング距離の指標を用いて、合成および実世界の画像データセットにおける再取得性能とノイズ耐性を評価する。

実験結果

リサーチクエスチョン

• RQ1 Transformerにおける注意機構が、スパース分散記憶（SDM）の再取得プロセスをどの程度数学的に近似するか。
• RQ2 GPT-2のような実際の事前学習済みTransformerモデルにおいて、SDM-注意対応関係に必要な構造的・統計的条件が満たされているか。
• RQ3 MNISTとCIFAR-10の比較を通じて、データの複雑さに応じてSDMベースの注意近似の性能はどのように変化するか。
• RQ4 学習された射影行列はSDMの臨界距離とノイズ耐性を向上させることができるか。また、この改善は異なるデータセットに一般化可能か。
• RQ5 注意機構を分散記憶再取得の一種として解釈することの、生物学的および計算的意味は何か。

主な発見

• ソフトマックス注意機構は、クエリとキーが正規化されている場合、特にSDMの超球交差操作をよく近似しており、注意機構と連想記憶との間の数学的リンクが裏付けられた。
• 事前学習済みGPT-2モデルでは、SDM-注意対応関係に必要な条件が満たされており、理論的対応関係が実際のモデルでも成立することが確認された。
• MNISTデータは複雑性が低いため、SDMベースの再取得において収束性が高く、ノイズ耐性も優れている。一方、CIFAR-10はパターン相関が高く、過学習が顕著に見られた。
• 射影行列の学習により、MNISTおよびCIFAR-10の両方でSDMの臨界距離が向上したが、テストセットへの一般化は限定的であり、学習データへの過学習が示唆された。
• 神経細胞数が少ない場合、性能は低下し、連続SDMはバイナリSDMに比べて有限の神経細胞数に対してより感受性が高くなる。これは、円弧の交差が小さくなるためである。
• SDMフレームワークにより、Transformer全体をより深く解釈できるようになり、注意機構が高次元の連想記憶再取得の一種として機能している可能性が示された。