[論文レビュー] A Brief History of Prompt: Leveraging Language Models. (Through Advanced Prompting)

Golam Muktadir|arXiv (Cornell University)|Sep 30, 2023

Topic Modeling被引用数 9

ひとこと要約

前系ニューラルモデルと情報検索から現代の大規模言語モデルまでのプロンプト設計の進化を包括的に追跡したサーベイ。主要なパラダイム、マイルストーン、倫理的考慮を網羅。

ABSTRACT

This paper presents a comprehensive exploration of the evolution of prompt engineering and generation in the field of natural language processing (NLP). Starting from the early language models and information retrieval systems, we trace the key developments that have shaped prompt engineering over the years. The introduction of attention mechanisms in 2015 revolutionized language understanding, leading to advancements in controllability and context-awareness. Subsequent breakthroughs in reinforcement learning techniques further enhanced prompt engineering, addressing issues like exposure bias and biases in generated text. We examine the significant contributions in 2018 and 2019, focusing on fine-tuning strategies, control codes, and template-based generation. The paper also discusses the growing importance of fairness, human-AI collaboration, and low-resource adaptation. In 2020 and 2021, contextual prompting and transfer learning gained prominence, while 2022 and 2023 witnessed the emergence of advanced techniques like unsupervised pre-training and novel reward shaping. Throughout the paper, we reference specific research studies that exemplify the impact of various developments on prompt engineering. The journey of prompt engineering continues, with ethical considerations being paramount for the responsible and inclusive future of AI systems.

研究の動機と目的

• NLPにおけるプロンプト設計と生成の歴史的進化を辿る。
• プロンプティングの形成に影響を与えた重要なアーキテクチャ的・方法論的マイルストーンを強調する。
• 時代を超えた可制御性、公平性、人間とAIの協働への示唆を論じる。

提案手法

• 時代を通じたNLP promptingの発展を歴史的ナラティブの統合で概説する。
• 主要な革新（例：注意機構、RL、事前学習、トランスフォーマー）のセクション別解説。
• 発展を文脈づけるための提示的プロンプトとセクションプロンプトの統合。

実験結果

リサーチクエスチョン

• RQ1 プロンプト設計と生成の主要な時代区分とマイルストーンは何か。
• RQ2 注意機構、強化学習、事前学習済みトランスフォーマーなどの革新がプロンプティングの実践にどのような影響を与えたか。
• RQ3 制御性、バイアス緩和、ドメイン適応などのテーマはプロンプト史を通じてどのように現れているか。
• RQ4 2020–2021および2022–2023の開発は標準的な言語生成を超えてプロンプティングをどのように拡張したのか。

主な発見

• プロンプト設計は、初期の言語モデルと情報取得における暗黙的プロンプティングから、大規模言語モデルによる明示的で可制御なプロンプティングへ進化した。
• 注意機構（2015年）は文脈理解を劇的に改善し、プロンプト設計と解釈性の新しい道を開いた。
• 強化学習（2017年）は可制御性を高め、露出バイアスを低減し、タスク特異的プロンプト最適化を可能にした。
• 2018年にはBERTと転移学習が登場し、事前学習モデルでの効率的な微調整とタスク特異的プロンプティングを実現した。
• 2019年はコントロールコード、テンプレート、デバイアス除去、および人間-AI協働に焦点を当て、可制御性と公平性を改善した。
• 2020–2021年には巨大LLMと多様なプロンプト形式が台頭し、ドメイン適応と解釈性の考慮を拡大した。
• 2022–2023年にはマルチモーダルおよびマルチターンのプロンプティングが導入され、プロンプトの応用範囲をさらに広げた。