[論文レビュー] Prompt Engineering for Healthcare: Methodologies and Applications

Jiaqi Wang, Enze Shi+22 more|arXiv (Cornell University)|Apr 28, 2023

Topic Modeling被引用数 116

ひとこと要約

医療NLPにおけるプロンプトエンジニアリングの総合的レビュー。プロンプトの種類、設計手法（手動と自動）、LLMs、医療応用を網羅し、研究者への指針と今後の方向性を提示する。

ABSTRACT

Prompt engineering is a critical technique in the field of natural language processing that involves designing and optimizing the prompts used to input information into models, aiming to enhance their performance on specific tasks. With the recent advancements in large language models, prompt engineering has shown significant superiority across various domains and has become increasingly important in the healthcare domain. However, there is a lack of comprehensive reviews specifically focusing on prompt engineering in the medical field. This review will introduce the latest advances in prompt engineering in the field of natural language processing for the medical field. First, we will provide the development of prompt engineering and emphasize its significant contributions to healthcare natural language processing applications such as question-answering systems, text summarization, and machine translation. With the continuous improvement of general large language models, the importance of prompt engineering in the healthcare domain is becoming increasingly prominent. The aim of this article is to provide useful resources and bridges for healthcare natural language processing researchers to better explore the application of prompt engineering in this field. We hope that this review can provide new ideas and inspire for research and application in medical natural language processing.

研究の動機と目的

• 医療NLPにおけるプロンプトエンジニアリングの開発経緯と役割を要約する。
• 手動型と自動型のプロンプトの種類と設計手法を調査する。
• 分類、生成、検出、拡張、質問応答、推論にまたがるプロンプトの医療応用を分析する。
• 医療分野のプロンプトエンジニアリングの課題、今後の方向性、リソースのギャップを浮き彫りにする。

提案手法

• 範囲を定義し、2019年から2023年までの医療NLPにおけるプロンプトエンジニアリングの文献調査を実施する。
• 大規模言語モデルの特徴と医療プロンプトへの関連性を整理する（例：BERT、T5、GPT系）
• プロンプト形式を整理する（クローズ vs プレフィックス、手動 vs 自動、離散 vs 連続）とその構築方法。
• 手動プロンプトと自動プロンプトのアプローチを比較し、ゼロショットおよび少数ショット戦略を含める。
• 分類、生成、検出、拡張、QA、推論などの医療タスクへのプロンプトの適用を要約する。

実験結果

リサーチクエスチョン

• RQ1 現在医療NLPで主に用いられているプロンプトエンジニアリングの技術は何か？
• RQ2 医療タスクの有効性と実用性の観点から、手動プロンプトと自動プロンプトはどのように比較されるか？
• RQ3 プロンプトベースの手法で最も恩恵を受けた医療NLPタスクは何か、代表的な応用は何か？
• RQ4 医療分野におけるプロンプトの課題と今後の方向性は何か？

主な発見

• プロンプトエンジニアリングはLLMsを活用して医療NLPタスクの少数ショットまたはゼロショット学習を実現する。
• 手動プロンプト（ゼロショットおよび少数ショット）は高い性能を示し、ドメイン特化のプロンプトは臨床テキストタスクで改善をもたらす。
• 自動プロンプト（離散的および連続的）は設計とタスク適応のスケーラビリティを提供し、プロンプトマイニング、言い換え、生成、スコアリングなどの手法が効率を高める。
• 連続プロンプティングは埋め込み空間でのタスク特化最適化を可能にし、マルチモーダルおよび低資源シナリオをサポートする。
• 適用範囲は臨床および生物医薬の文脈での分類、生成、検出、拡張、質問応答、推論まで及ぶ。
• 本レビューは現在の課題を特定し、医療プロンプトエンジニアリングを進展させるための今後の研究方向を提示する。