[論文レビュー] What Language Model to Train if You Have One Million GPU Hours?

Teven Le Scao, Thomas J. Wang+17 more|arXiv (Cornell University)|Oct 27, 2022

Topic Modeling被引用数 6

ひとこと要約

本論文は、1000億パラメータ以上の多言語言語モデルの最適なアーキテクチャおよびトレーニング選択肢を、固定された100万時間のA100-GPU予算内で調査する。1.3Bパラメータスケールでのアブレーションスタディを通じて、The Pileのような多様で高品質なコーパスでの事前学習がゼロショット一般化性能を著しく向上させることを特定した。また、多言語モデルが言語固有のスケーリング法則を示すことが判明し、最終的な1760億パラメータのBLOOMアーキテクチャ設計に反映された。モデルとコードはオープンソース化されている。

ABSTRACT

The crystallization of modeling methods around the Transformer architecture has been a boon for practitioners. Simple, well-motivated architectural variations can transfer across tasks and scale, increasing the impact of modeling research. However, with the emergence of state-of-the-art 100B+ parameters models, large language models are increasingly expensive to accurately design and train. Notably, it can be difficult to evaluate how modeling decisions may impact emergent capabilities, given that these capabilities arise mainly from sheer scale alone. In the process of building BLOOM--the Big Science Large Open-science Open-access Multilingual language model--our goal is to identify an architecture and training setup that makes the best use of our 1,000,000 A100-GPU-hours budget. Specifically, we perform an ablation study at the billion-parameter scale comparing different modeling practices and their impact on zero-shot generalization. In addition, we study the impact of various popular pre-training corpora on zero-shot generalization. We also study the performance of a multilingual model and how it compares to the English-only one. Finally, we consider the scaling behaviour of Transformers to choose the target model size, shape, and training setup. All our models and code are open-sourced at https://huggingface.co/bigscience .

研究の動機と目的

• 固定された100万時間のA100-GPU予算のもとで、1000億パラメータ以上の多言語言語モデルの最適なアーキテクチャとトレーニング設定を特定すること。
• 1.3Bパラメータスケールでのゼロショット一般化性能に、活性化関数、正規化、位置埋め込みなどのアーキテクチャ的選択が与える影響を評価すること。
• 事前学習コーパスの多様性と品質がモデルの一般化性能に与える影響を評価すること。
• 多言語環境下でのスケーリング行動を調査し、言語固有のスケーリング法則を同定すること。
• 体系的なアブレーションおよびスケーリング分析を用いて、最終的な1760億パラメータのBLOOMモデルの設計を支援すること。

提案手法

• GPT-2スタイルのデコーダーのみのTransformerを1.3Bパラメータで用い、活性化関数、正規化、位置埋め込みなどのアーキテクチャ的要素を制御的にアブレーションスタディで評価する。
• EAI Harnessスイートを用いて、20の多様なNLPベンチマークでゼロショット一般化性能を評価する。
• The Pile、C4、OSCAR v1といった多様なコーパスでの事前学習を比較し、モデルパフォーマンスに与えるデータ構成の影響を同定する。
• 英語専用モデルと多言語モデルを訓練し、言語ごとのパフォーマンスを測定することで、多言語スケーリング行動を分析する。
• パワー則スケーリングフィット（αC ≈ 0.046）を用いて、最終的な1760億パラメータのモデルにおける最適なモデルサイズと事前学習トークン数を外挿推定する。

実験結果

リサーチクエスチョン

• RQ1 どの事前学習コーパスが1.3Bパラメータモデルのゼロショット一般化性能を最も高めるか？
• RQ2 活性化関数、正規化、位置埋め込みなどのアーキテクチャ的要素がゼロショット一般化に与える影響は何か？
• RQ3 多言語性はモデルのスケーリング行動とパフォーマンスにどのような影響を与えるか？
• RQ4 英語専用モデルと多言語モデルにおけるスケーリング法則の違いは何か？
• RQ5 固定された100万時間のA100-GPU予算内でパフォーマンスを最大化するための最適なモデルサイズと事前学習データスケールは何か？

主な発見

• 多様で高品質なコーパスであるThe Pileで事前学習した1.3Bパラメータモデルが、47.09%の最高のゼロショット一般化精度を達成し、C4 や OSCAR v1 を上回った。
• The Pileで学習した多言語モデルは、同じコーパスで学習した英語専用ベースラインと比較して、47.09%のゼロショット一般化精度を達成し、顕著に優れた性能を示した。
• 本研究では、多言語モデルが言語固有のスケーリング法則を示すことが判明し、事前学習データの分布に応じて言語ごとにパフォーマンスが変動することを特定した。
• パワー則スケーリング係数 αC ≈ 0.046 が観測され、最終的な1760億パラメータのBLOOMモデルにおける最適なモデルサイズと事前学習データスケールの正確な推定が可能になった。
• GELU活性化関数、RMSNorm、回転位置埋め込みといったアーキテクチャ的選択がパフォーマンス向上に寄与した。特にRMSNormは一般化性能向上に顕著な寄与を示した。
• 最終的なBLOOMモデルは、これらの発見に基づいて設計され、すべてのモデル、コード、会議メモがHugging Faceでオープンソース化された。