[論文レビュー] ChatGPT in the Age of Generative AI and Large Language Models: A Concise Survey

Salman Mohamadi, Ghulam Mujtaba+3 more|arXiv (Cornell University)|Jul 9, 2023

Artificial Intelligence in Healthcare and Education被引用数 19

ひとこと要約

本論文はChatGPTとその進化に関する現在の研究動向を簡潔に概説し、ガラス箱アプローチとブラックボックスアプローチの両方、基礎文献、応用、および複数の分野にわたるより広い影響を検討する。

ABSTRACT

ChatGPT is a large language model (LLM) created by OpenAI that has been carefully trained on a large amount of data. It has revolutionized the field of natural language processing (NLP) and has pushed the boundaries of LLM capabilities. ChatGPT has played a pivotal role in enabling widespread public interaction with generative artificial intelligence (GAI) on a large scale. It has also sparked research interest in developing similar technologies and investigating their applications and implications. In this paper, our primary goal is to provide a concise survey on the current lines of research on ChatGPT and its evolution. We considered both the glass box and black box views of ChatGPT, encompassing the components and foundational elements of the technology, as well as its applications, impacts, and implications. The glass box approach focuses on understanding the inner workings of the technology, and the black box approach embraces it as a complex system, and thus examines its inputs, outputs, and effects. This paves the way for a comprehensive exploration of the technology and provides a road map for further research and experimentation. We also lay out essential foundational literature on LLMs and GAI in general and their connection with ChatGPT. This overview sheds light on existing and missing research lines in the emerging field of LLMs, benefiting both public users and developers. Furthermore, the paper delves into the broad spectrum of applications and significant concerns in fields such as education, research, healthcare, finance, etc.

研究の動機と目的

• ChatGPTとその進化をめぐる現在の研究状況を整理する。
• ガラス箱（内部仕組み）とブラックボックス（入力/出力/影響）の視点を比較する。
• LLMと生成AIの基礎文献を統合し、それらとChatGPTとの関連を整理する。
• 教育・研究・ヘルスケア・金融などを含む広範な分野での応用と懸念を特定する。
• LLMとGAIにおける今後の研究・実験のロードマップを提案する。

提案手法

• ChatGPTとGAI研究の文献調査を実施する。
• 分析をガラス箱とブラックボックスの視点で構成する。
• 基盤となるLLM/GAI文献を統合しChatGPTと結びつける。
• 応用と社会的・学際的影響を検討する。
• 欠落している研究ラインと今後の提案方向を概説する。

実験結果

リサーチクエスチョン

• RQ1 ChatGPTとその進化を取り巻く現在の研究動向は何か？
• RQ2 ガラス箱とブラックボックスの視点は技術とその影響をどう異なる形で照らし出すか？
• RQ3 さまざまな分野でのChatGPTの主要な応用と影響は何か？
• RQ4 既存文献にはどんなギャップがあり、将来の研究はどの方向に進むべきか？

主な発見

• 本調査はLLMおよびChatGPT分野の既存の研究ラインと欠落しているラインを特定している。
• この分野の今後の研究・実験のロードマップを提示している。
• 教育・研究・ヘルスケア・金融などの分野における応用と重要な懸念を論じている。
• 基礎的なLLM/GAI文献をChatGPTに結びつけ、技術の進化を概説している。