[論文レビュー] Structural Similarities Between Language Models and Neural Response Measurements

Jiaang Li, Antonia Karamolegkou+4 more|arXiv (Cornell University)|Jun 2, 2023

Topic Modeling参考文献 42被引用数 4

ひとこと要約

この論文は、大規模言語モデル（LLMs）のサイズが拡大するにつれて、言語理解時のfMRIで測定された神経応答パターンと、内部の語表現がますます構造的に類似するようになることを示している。リッジ回帰、表現類似性分析（RSA）、およびプロクラステス解析を用いて、著者らはLLMsがfMRIデータから語を復号する際、ランダムな確率をはるかに上回る最大25%の精度-10を達成することを示している。これは、人工的および人間の神経表現の間の強い幾何的整合性を示している。

ABSTRACT

Large language models (LLMs) have complicated internal dynamics, but induce representations of words and phrases whose geometry we can study. Human language processing is also opaque, but neural response measurements can provide (noisy) recordings of activation during listening or reading, from which we can extract similar representations of words and phrases. Here we study the extent to which the geometries induced by these representations, share similarities in the context of brain decoding. We find that the larger neural language models get, the more their representations are structurally similar to neural response measurements from brain imaging. Code is available at \url{https://github.com/coastalcph/brainlm}.

研究の動機と目的

• 大規模言語モデル（LLMs）の表現幾何学が、言語処理中の人間の神経応答と一致するかどうかを調査すること。
• モデルサイズの増加が、LLM表現とfMRIで測定された脳活動との間の構造的類似性を向上させるかどうかを特定すること。
• LLMベースの表現を用いてfMRI信号から言語的概念を復号する可能性を評価すること。
• この一致が、意味的基盤に関する哲学的および認知的含意に与える影響を探索すること。
• モデルの深さが、人間の神経表現との整合性を高める役割を果たすかどうかを評価すること。

提案手法

• 本研究では、3つのLLMファミリー（BERTを含む）および1つの静的埋め込み手法を、2つの公開済みデータセット（ハリー・ポッターおよびナチュラル・ストーリーズ）のfMRIデータと比較した。
• 表現類似性分析（RSA）を用いて、LLMとfMRI表現空間間の幾何的類似性を定量化した。
• リッジ回帰を用いて、LLM表現からfMRI応答を予測し、精度- k（P@k）による復号性能の評価を可能にした。
• 次元数が一致する場合（d = d’）に、LLMとfMRI表現の間の同型性を評価するためにプロクラステス解析を用いた。
• fMRIデータにガウス平滑化を適用し、ノイズを低減し、信号対雑音比を向上させた。
• 複数のモデルサイズと層にわたって分析を行い、深さ依存の整合性の傾向を評価した。

Figure 1: Experimental flow and main results. We run experiments with three families of LLMs (comparing LLMs of different sizes within families), two fMRI datasets, and three projection algorithms, and results are the same across all combinations: LLMs converge toward human-like representations, ena

実験結果

リサーチクエスチョン

• RQ1 大規模言語モデルの表現幾何学は、言語理解時の人の神経応答とどの程度類似しているか？
• RQ2 モデルサイズの増加が、LLM表現とfMRIで測定された脳活動との間の構造的類似性にどのように影響するか？
• RQ3 特に後続の層において、モデルの深さがLLMと神経表現の間の整合性を向上させるか？
• RQ4 LLM表現を用いてfMRI信号から語レベルの復号が可能か？また、ランダムなベースラインと比較して性能はどうか？
• RQ5 人工的および生物学的言語表現の間の観察された同型性の哲学的意義は何か？

主な発見

• 最大のLLMでは、fMRI信号から語を復号する際の精度-10（P@10）が最大25%に達し、1%未満のランダムベースラインをはるかに上回っている。
• 研究対象の3つのLLMファミリーすべてにおいて、モデルサイズが大きくなるにつれて、LLM表現とfMRI応答の間の構造的類似性が一貫して向上した。
• LLMの深い層では、人間の神経表現との整合性が強く、その向上は飽和せず、深さの増加に伴いさらなる向上が見込まれる。
• 2つの異なるfMRIデータセットおよび3つの評価手法（リッジ回帰、RSA、プロクラステス解析）のすべてにおいて、整合性は安定している。
• 観察された同型性は単なる偶然ではなく、LLMとfMRI表現の最近接近傍グラフ構造が特定的に一致しており、意味的基盤の考えを支持する。
• 結果から、LLMにおける意味的および意図的表現が人間の脳応答と特に一致していることが示唆され、初期層の文法的表現は弱い対応を示している。

Figure 2: Convergence Results for Three Families of Language Models on Two Datasets . The task for Harry Potter dataset here is: Given a neural response, which word in a vocabulary of 1,291 words, was read at the time the response was recorded? Random retrieval baseline P@10 is less than $1\%$ , whi