[論文レビュー] From Instruction to Output: The Role of Prompting in Modern NLG

Munazza Zaib, Elaf Alhazmi|arXiv (Cornell University)|Jan 21, 2026

Topic Modeling被引用数 0

ひとこと要約

自然言語生成（NLG）におけるプロンプト設計の総合的な調査で、プロンプトパラダイムの分類法、プロンプト選択の実用的意思決定フレームワーク、設計・最適化・評価を結びつけて制御可能かつ一般化可能なNLGを実現するフレームワークを提案します。

ABSTRACT

Prompt engineering has emerged as an integral technique for extending the strengths and abilities of Large Language Models (LLMs) to gain significant performance gains in various Natural Language Processing (NLP) tasks. This approach, which requires instructions to be composed in natural language to bring out the knowledge from LLMs in a structured way, has driven breakthroughs in various NLP tasks. Yet there is still no structured framework or coherent understanding of the varied prompt engineering methods and techniques, particularly in the field of Natural Language Generation (NLG). This survey aims to help fill that gap by outlining recent developments in prompt engineering, and their effect on different NLG tasks. It reviews recent advances in prompting methods and their impact on NLG tasks, presenting prompt design as an input-level control mechanism that complements fine-tuning and decoding approaches. The paper introduces a taxonomy of prompting paradigms, a decision framework for prompt selection based on varying factors for the practitioners, outlines emerging trends and challenges, and proposes a framework that links design, optimization, and evaluation to support more controllable and generalizable NLG.

研究の動機と目的

• プロンプト設計がNLGタスクの入力レベルの制御機構として、微調整およびデコーダーレベル制御と比較してどのように機能するかを明確にする。
• NLGのプロンプトパラダイムの分類法（基礎的、文脈依存、高度な推論）を提案し、タスク設定に対応づける。
• タスクの複雑さ、対話設定、リソースに基づいてプロンプト戦略を選択するための意思決定フレームワークを開発する。
• 設計・最適化・評価を体系的なフレームワークに結びつけ、NLGシステムの制御性と一般化を向上させる。

提案手法

• プロンプトパラダイムの分類（Foundational, Contextual, Advanced Reasoning）を提示し、代表的な技術（例：zero-shot、few-shot、chain-of-thought、role prompting、ThoT、CoE、ToT、self-consistency）を説明する。
• プロンプトベースの制御を微調整およびデコーダーレベル制御と対比し、プロンプト設計を中間的なアプローチとして位置づける。
• タスク要件とリソース制約に基づくプロンプト戦略選択のためのタスク・文脈認識の意思決定フレームワーク（Figure 1）を導入する。
• プロンプト設計の選択肢（指示構造、役割、手本、制約）、最適化戦略（マニュアル、探索ベース、ハイブリッド）、評価/頑健性の考慮を結ぶフレームワークの概要を示す。
• 人間、自動、LLMによる評価を用いた評価実践と、バイアス、再現性、網羅性のギャップに対処する頑健性の課題をレビューする。

Figure 1: Decision framework for selecting prompt-engineering strategies for NLG based on task complexity, interaction setting, primary control objective, and resource constraints.

実験結果

リサーチクエスチョン

• RQ1 プロンプトベースのNLG制御は微調整およびデコーダーレベル制御と比較して、柔軟性、コスト、適用性の点でどのように異なるか。
• RQ2 NLGにはどのようなプロンプトパラダイムが存在し、どのタスクや対話設定に最適か。
• RQ3 信頼性のある内容・構造・スタイル制御をNLGで達成するために、プロンプトはどのように設計・最適化すべきか。
• RQ4 promptingベースのNLGシステムの評価実践と頑健性の考慮事項は何が不可欠か。
• RQ5 NLGの体系的なプロンプトエンジニアリングを推進する動向、課題、統一的なフレームワークは何か。

主な発見

• プロンプトは微調整・デコード戦略を補完する有効な入力レベルの制御として機能する。
• 基礎的、文脈依存、高度な推論アプローチを区別するプロンプトパラダイムの分類法。
• タスクの複雑さ、対話設定、主要な制御目標、リソースに基づくプロンプト戦略の選択を導く意思決定フレームワーク。
• 評価は人間・自動・LLMベースのジャッジを三者協調で行う必要があり、バイアス・再現性・網羅性のギャップを考慮する。
• 出現する動向には、情報取得強化生成、プロンプトをプログラミングとして扱う発想、文脈設計が含まれ、頑健性・バイアス・一般化に関する課題も指摘される。