[論文レビュー] PMET: Precise Model Editing in a Transformer

Xiaopeng Li, Shasha Li+4 more|arXiv (Cornell University)|Aug 17, 2023

Topic Modeling被引用数 6

ひとこと要約

PMETは、マルチヘッド自己注意（MHSA）とフィードフォワードネットワーク（FFN）の両方の隠れ状態を同時に最適化することで、Transformerにおける正確なモデル編集手法を提案する。FFNの重み更新には、最適化されたFFN隠れ状態のみを用いる。このアプローチにより、編集の信頼性と特異性が向上し、MHSAの知識抽出機能を変更せずに活用することで、counterfactおよびzsREベンチマークで最先端の性能を達成する。

ABSTRACT

Model editing techniques modify a minor proportion of knowledge in Large Language Models (LLMs) at a relatively low cost, which have demonstrated notable success. Existing methods assume Transformer Layer (TL) hidden states are values of key-value memories of the Feed-Forward Network (FFN). They usually optimize the TL hidden states to memorize target knowledge and use it to update the weights of the FFN in LLMs. However, the information flow of TL hidden states comes from three parts: Multi-Head Self-Attention (MHSA), FFN, and residual connections. Existing methods neglect the fact that the TL hidden states contains information not specifically required for FFN. Consequently, the performance of model editing decreases. To achieve more precise model editing, we analyze hidden states of MHSA and FFN, finding that MHSA encodes certain general knowledge extraction patterns. This implies that MHSA weights do not require updating when new knowledge is introduced. Based on above findings, we introduce PMET, which simultaneously optimizes Transformer Component (TC, namely MHSA and FFN) hidden states, while only using the optimized TC hidden states of FFN to precisely update FFN weights. Our experiments demonstrate that PMET exhibits state-of-the-art performance on both the COUNTERFACT and zsRE datasets. Our ablation experiments substantiate the effectiveness of our enhancements, further reinforcing the finding that the MHSA encodes certain general knowledge extraction patterns and indicating its storage of a small amount of factual knowledge. Our code is available at https://github.com/xpq-tech/PMET.

研究の動機と目的

• MHSAと残差接続に由来する不要な情報が含まれるTransformer層（TL）の隠れ状態に依存する従来のモデル編集手法における不正確な重み更新を是正すること。
• MHSAに事実知識が格納されているのか、それとも一般化された知識抽出パターンに限定されているのかを調査すること。これは、MHSAの重みを更新すべきかどうかに影響を与える。
• MHSAとFFNの隠れ状態の最適化を分離することで、MHSAの構造的役割を保ちつつ、モデル編集の信頼性と特異性を向上させること。
• MHSAの重みを変更せずに、編集効果、一般化性能、特異性の面で最先端の性能を達成すること。
• コンponentレベルの隠れ状態ダイナミクスを分析することで、より強固で解釈可能なLLM編集フレームワークを提供すること。

提案手法

• PMETは、Transformer層内のMHSAとFFNコンポonentの両方の隠れ状態を同時に最適化し、それらを別々の最適化ターゲットとして扱う。
• 重み更新には、最適化されたFFN隠れ状態のみをターゲット知識表現として用い、MHSAや残差情報による汚染を回避する。
• MHSAの隠れ状態は、FFN最適化のための関数空間の拡張を目的として最適化するが、MHSAの重みは更新しない。その根拠は、MHSAが一般化された知識抽出パターンをエンコードしているという洞察に基づく。
• 重要層にわたる重み更新の増分を分散させるためのリサイジングストレージ戦略（平方根スプリーディング）を採用し、信頼性とモデル保存性のバランスを図る。
• MHSAとFFNの両方の隠れ状態を同時に最適化する新しい損失関数を導入し、残差接続のフローの整合性を維持する。
• MHSAの重み変更を回避することで、その知識抽出機能を保持し、FFNコンポーネントからのクリーンで最適化された表現のみを用いてFFN重みを更新する。

実験結果

リサーチクエスチョン

• RQ1 MHSAは事実知識を格納しているのか、それとも主に安定した編集にわたる一般化された知識抽出パターンをエンコードしているのか？
• RQ2 MHSAの重みを更新せずに隠れ状態を最適化することで、FFN重み更新の精度と信頼性が向上するか？
• RQ3 リサイジングストレージ戦略の選択（例：平方根 vs. 等間隔）が、編集信頼性とモデル特異性のトレードオフに与える影響は？
• RQ4 TLの全隠れ状態を用いる手法と比較して、MHSAとFFNの隠れ状態最適化を分離することで、編集パフォーマンスはどの程度向上するか？
• RQ5 混合または残差に影響を受ける表現ではなく、最適化されたFFN隠れ状態のみを用いて重み更新を行うことで、どのような影響が生じるか？

主な発見

• PMETは、counterfactおよびzsREベンチマークの両方で最先端の性能を達成し、従来手法に比べて編集の信頼性と特異性が優れている。
• アブレーションスタディの結果、MHSAとFFNの両方の隠れ状態を最適化することで、FFNのみ最適化する場合に比べ信頼性が向上し、関数空間の拡張の利点が確認された。
• MHSAの重みをFFNと同時に更新すると、一般化性能はわずかに向上するが、特異性は著しく低下する。これは、MHSAが一部の事実知識を格納しており、更新すべきでないことを示唆している。
• 等間隔のリサイジングストレージは、モデル保持性（流暢さと特異性）を向上させるが、著しく編集効果と一貫性を低下させる。これは情報損失のリスクを浮き彫りにする。
• 平方根スプリーディングは、モデルの整合性を保ちつつ更新の信頼性を維持する点で最良のバランスを提供し、すべての主要指標で等間隔スプリーディングを上回る。
• これらの発見は、MHSAが一般化された知識抽出パターンをエンコードしており、少量の事実知識も格納していることを確認し、PMETにおける重み更新の除外が正当化されることを示している。