[論文レビュー] The Truth is in There: Improving Reasoning in Language Models with Layer-Selective Rank Reduction

Pratyusha Sharma, Jordan T. Ash+1 more|arXiv (Cornell University)|Dec 21, 2023

Topic Modeling被引用数 8

ひとこと要約

LASER は、トレーニング後に特定の Transformer 重み行列から高次の特異成分を選択的に除去し、追加データや追加トレーニングなしで複数のベンチマークにおける推論精度を向上させることがある。

ABSTRACT

Transformer-based Large Language Models (LLMs) have become a fixture in modern machine learning. Correspondingly, significant resources are allocated towards research that aims to further advance this technology, typically resulting in models of increasing size that are trained on increasing amounts of data. This work, however, demonstrates the surprising result that it is often possible to significantly improve the performance of LLMs by selectively removing higher-order components of their weight matrices. This simple intervention, which we call LAyer-SElective Rank reduction (LASER), can be done on a model after training has completed, and requires no additional parameters or data. We show extensive experiments demonstrating the generality of this finding across language models and datasets, and provide in-depth analyses offering insights into both when LASER is effective and the mechanism by which it operates.

研究の動機と目的

• 選択的な事後トレーニング型の低ランク近似が Transformer の推論タスクの性能を改善し得ることを示す。
• どの層と行列タイプがランク削減の恩恵を最も受けるかを特定する。
• トレーニングデータの頻度と LASER による利益の関係を分析する。
• モデル・データセット・モダリティを跨る一般性を実証する。

提案手法

• Transformer 層の重み行列 W を SVD で表す W = U Σ Vᵀ。
• 選択した行列を上位 k 個の特異ベクトルを用いたランク-k 近似 W_LR に置換する。
• LASER 介入を (τ, ℓ, ρ) で定義し、行列タイプ、層、保存するランク分数を示す。
• 検証セットで性能を最大化するように介入（一つまたは組合せ）を探索する。
• 一般性と頑健性を評価するため、複数のデータセットとモデルで評価する。

実験結果

リサーチクエスチョン

• RQ1 特定の重み行列の標的型後トレーニング低ランク近似は再学習なしで LLM の推論を改善し得るか。
• RQ2 どの層タイプ（例：MLP vs. アテンション）とどの層が LASER の恩恵を最も受けるか。
• RQ3 トレーニングデータの頻度と LASER の利益の関係はどうなるか。
• RQ4 LASER 介入はパラフレーズや他の言語 perturbation に対する頑健性にどう影響するか。

主な発見

• ランク削減は多くの重み行列に適用可能で、ほとんど劣化を伴わないことが多い。後段の MLP 重みが最大の効果を生みやすい。
• CounterFact では、単一層 LASER によりトップ1 の精度が 13.3% から 24.1%（GPT-J 6B）へ retraining なしで向上。
• 複数層にわたる LASER 介入の組み合わせはさらなる改善をもたらし（例：CounterFact でトップ10 精度が 24.0% から 29.2% へ）。
• 学習データ内で頻度の低い事実の改善が目立ち、弱く学習された情報のデノイズ効果を示唆する。
• 高次成分はしばしば一般的な高周波語や代替解答を符号化しており、それらを削除することで内部の衝突が減り正解率が向上する。
• LASER の効果はモデル間（Roberta、GPT-J、LLaMA2）やタスク（QA、推論ベンチマーク）に一般化し、さらには非テキスト領域（Sokoban の Decision Transformer）にも拡張される。
• パラフレーズの頑健性は LASER により設定によっては約 25 ポイント程度向上する。