[論文レビュー] Harnessing the Power of LLMs in Practice: A Survey on ChatGPT and Beyond

Jingfeng Yang, Hongye Jin+6 more|arXiv (Cornell University)|Apr 26, 2023

Artificial Intelligence in Healthcare and Education被引用数 149

ひとこと要約

本論文は、下流のNLPタスクでの大規模言語モデル（LLMs）の活用に関する実践的ガイドを提供し、LLMsとファインチューニング済みモデルを比較し、データ主導の考慮事項、タスク別の使用事例、展開要因を概説します。

ABSTRACT

This paper presents a comprehensive and practical guide for practitioners and end-users working with Large Language Models (LLMs) in their downstream natural language processing (NLP) tasks. We provide discussions and insights into the usage of LLMs from the perspectives of models, data, and downstream tasks. Firstly, we offer an introduction and brief summary of current GPT- and BERT-style LLMs. Then, we discuss the influence of pre-training data, training data, and test data. Most importantly, we provide a detailed discussion about the use and non-use cases of large language models for various natural language processing tasks, such as knowledge-intensive tasks, traditional natural language understanding tasks, natural language generation tasks, emergent abilities, and considerations for specific tasks.We present various use cases and non-use cases to illustrate the practical applications and limitations of LLMs in real-world scenarios. We also try to understand the importance of data and the specific challenges associated with each NLP task. Furthermore, we explore the impact of spurious biases on LLMs and delve into other essential considerations, such as efficiency, cost, and latency, to ensure a comprehensive understanding of deploying LLMs in practice. This comprehensive guide aims to provide researchers and practitioners with valuable insights and best practices for working with LLMs, thereby enabling the successful implementation of these models in a wide range of NLP tasks. A curated list of practical guide resources of LLMs, regularly updated, can be found at \url{https://github.com/Mooler0410/LLMsPracticalGuide}.

研究の動機と目的

• NLPタスクにおいてLLMsとファインチューニング済みモデルをいつ使用すべきかを理解するよう実務者を動機づける。
• 事前学習、ファインチューニング、テストデータがLLMの性能にどのように影響するかを説明する。
• NLU、NLG、知識集約型タスクに対するタスク別の指針を提供し、限界を特定する。
• 実世界のシナリオでの展開を支援する実用的な推奨事項と意思決定フローを提供する。

提案手法

• LLMsをエンコーダ-デコーダ、エンコーダのみ、デコーダーのみのアーキテクチャに分類し、それらの学習パラダイム（マスクド言語モデリング vs 自己回帰）を論じる。
• LLMsとファインチューニング済みモデルの実用的な区別を定義する（LLMsは広範なデータで事前学習、ファインチューニング済みモデルは事前学習後にタスク調整）と、規模の意味を論じる（<20Bパラメータはファインチューニング水準としての意義）。
• 事前学習データ、訓練/チューニングデータ、テストデータのデータ影響を分析し、ゼロアノテーション、少量アノテーション、多量アノテーションの regime を含め、LLMsとファインチューニング済みモデルのどちらをいつ使用すべきかの指針を提供する。
• NLPタスク（NLU、NLG、知識集約型タスク）と現れる能力を検討し、使用事例と不使用事例の指針を提供し、限界を強調する。
• 異なるタスクに対してLLMsとファインチューニング済みモデルを選択するための実用的な意思決定フロー（図3）を提案する。

実験結果

リサーチクエスチョン

• RQ1 下流のNLPタスクにおいて実務者はいつLLMsをファインチューニング済みモデルより選択すべきか？
• RQ2 事前学習データ、ファインチューニングデータ、テストデータが実務でのLLMの性能にどのように影響するか？
• RQ3 従来のNLU、生成、知識集約型タスクにおけるLLMsの実用的な使用事例と制限は何か？
• RQ4 導入時の考慮事項（効率性、コスト、レイテンシ）はLLMsの実務利用にどのように影響するか？

主な発見

• LLMsはout-of-distributionデータや限られたアノテーションデータでファインチューニング済みモデルより一般化性能が高い。
• 伝統的なNLUタスクで豊富なアノテーションデータと低い計算コストがある場合、ファインチューニング済みモデルがしばしばLLMsを上回る。
• LLMsは生成タスク、開放的なテキストやコード生成を含む分野で卓越し、多くの知識集約型タスクでも高い性能を示す。
• 情報検索を強化したアプローチは、クローズドブックタスクをオープンブック化へ転換し、知識量が多いタスクの性能を向上させる。
• スケーリングは現れうる能力と推論の向上を促進するが、すべてのタスクで均一な利益を保証するものではない。
• RLHFと指示追従能力（例：InstructGPT、ChatGPT）は一般化とロバスト性を向上させ、多言語の指示準拠を含む。