[논문 리뷰] ChatGPT in the Age of Generative AI and Large Language Models: A Concise Survey

Salman Mohamadi, Ghulam Mujtaba외 3명|arXiv (Cornell University)|2023. 07. 09.

Artificial Intelligence in Healthcare and Education인용 수 19

한 줄 요약

이 논문은 ChatGPT 및 그 발전에 대한 현재 연구 라인을 간결하게 조사하고, 글래스 박스와 블랙 박스 관점, 기초 문헌, 응용 및 여러 영역에 걸친 더 넓은 함의를 검토합니다.

ABSTRACT

ChatGPT is a large language model (LLM) created by OpenAI that has been carefully trained on a large amount of data. It has revolutionized the field of natural language processing (NLP) and has pushed the boundaries of LLM capabilities. ChatGPT has played a pivotal role in enabling widespread public interaction with generative artificial intelligence (GAI) on a large scale. It has also sparked research interest in developing similar technologies and investigating their applications and implications. In this paper, our primary goal is to provide a concise survey on the current lines of research on ChatGPT and its evolution. We considered both the glass box and black box views of ChatGPT, encompassing the components and foundational elements of the technology, as well as its applications, impacts, and implications. The glass box approach focuses on understanding the inner workings of the technology, and the black box approach embraces it as a complex system, and thus examines its inputs, outputs, and effects. This paves the way for a comprehensive exploration of the technology and provides a road map for further research and experimentation. We also lay out essential foundational literature on LLMs and GAI in general and their connection with ChatGPT. This overview sheds light on existing and missing research lines in the emerging field of LLMs, benefiting both public users and developers. Furthermore, the paper delves into the broad spectrum of applications and significant concerns in fields such as education, research, healthcare, finance, etc.

연구 동기 및 목표

• ChatGPT 및 그 발전을 둘러싼 현재 연구 지형을 매핑한다.
• glass box(내부 작동)와 black box(입력/출력/영향) 관점을 비교한다.
• LLM 및 생성 AI에 대한 기초 문헌을 합성하고 그것과 ChatGPT의 연계를 제시한다.
• 교육, 연구, 의료, 금융 분야 등에서의 응용과 우려를 파악한다.
• LLMs 및 GAI의 향후 연구 및 실험을 위한 로드맵을 제안한다.

제안 방법

• ChatGPT 및 GAI 연구에 대한 문헌 기반 조사를 수행한다.
• 분석을 글래스 박스와 블랙 박스 관점으로 구성한다.
• 기초적 LLM/GAI 문헌을 합성하고 ChatGPT와 연결한다.
• 응용 및 사회적/학문적 함의를 검토한다.
• 미흡한 연구 라인을 개요하고 향후 제안 방향을 제시한다.

실험 결과

연구 질문

• RQ1 ChatGPT 및 그 발전을 둘러싼 현재 연구 라인은 무엇인가?
• RQ2 글래스 박스와 블랙 박스 관점은 기술과 그 효과를 어떻게 다르게 조명하는가?
• RQ3 다양한 분야에서 ChatGPT의 주요 응용과 함의는 무엇인가?
• RQ4 현존 문헌에서 어떤 공백이 있으며 향후 연구는 어떤 방향으로 나아가야 하는가?

주요 결과

• 이 조사는 LLM 및 ChatGPT 분야의 기존 연구 라인과 누락된 연구 라인을 식별한다.
• 이 영역에서의 추가 연구와 실험에 대한 로드맵을 제공한다.
• 논문은 교육, 연구, 의료, 금융 등 다양한 영역에서의 응용과 중요한 문제점을 논의한다.
• 기초 LLM/GAI 문헌을 ChatGPT에 연결하고 기술의 발전을 개요한다.