[논문 리뷰] Generative Artificial Intelligence: A Systematic Review and Applications

Sandeep Singh Sengar, Affan Bin Hasan외 2명|arXiv (Cornell University)|2024. 05. 17.

Artificial Intelligence in Healthcare인용 수 26

한 줄 요약

이 논문은 최근 생성 AI 기법(GAN, VAEs, 확산, 트랜스포머)과 이미지, 비디오, 언어 과제에서의 응용을 조사하며 데이터셋, 지표, 도전과제 및 책임 있는 AI 고려사항을 논의합니다.

ABSTRACT

In recent years, the study of artificial intelligence (AI) has undergone a paradigm shift. This has been propelled by the groundbreaking capabilities of generative models both in supervised and unsupervised learning scenarios. Generative AI has shown state-of-the-art performance in solving perplexing real-world conundrums in fields such as image translation, medical diagnostics, textual imagery fusion, natural language processing, and beyond. This paper documents the systematic review and analysis of recent advancements and techniques in Generative AI with a detailed discussion of their applications including application-specific models. Indeed, the major impact that generative AI has made to date, has been in language generation with the development of large language models, in the field of image translation and several other interdisciplinary applications of generative AI. Moreover, the primary contribution of this paper lies in its coherent synthesis of the latest advancements in these areas, seamlessly weaving together contemporary breakthroughs in the field. Particularly, how it shares an exploration of the future trajectory for generative AI. In conclusion, the paper ends with a discussion of Responsible AI principles, and the necessary ethical considerations for the sustainability and growth of these generative models.

연구 동기 및 목표

• 최신 생성형 AI 기법 및 아키텍처의 현상태를 요약합니다.
• 이미지 변환, 비디오 합성, NLP에서 생성 모델의 응용을 종합합니다.
• GenAI 방법을 벤치마크하는 데 사용되는 데이터셋과 평가 지표를 비교합니다.
• 책임 있는 AI를 위한 도전과 기회 및 향후 방향을 강조합니다.

제안 방법

• 생성 AI 기법 및 응용에 초점을 맞춘 targeted 문헌고찰(2012–2023) 수행.
• 섹션별로 GAN, 트랜스포머, VAE, 확산 모델로 모델을 분류.
• 훈련 안정성, 모드 붕괴 등 기초 문제와 이후의 개선(W-GAN, LS-GAN 등)을 논의.
• 대표 데이터셋과 평가 지표(FID, KID, RMSE, SSIM, PSNR, LPIPS) 등을 활용한 응용 도메인 검토.
• GenAI의 윤리적 고려사항 및 Responsible AI 원칙 다룸.

실험 결과

연구 질문

• RQ1 2012년부터 2023년까지 어떤 주요 생성 AI 기법이 있으며 어떻게 발전해 왔는가?
• RQ2 GAN, VAE, 확산 모델, 트랜스포머가 이미지, 비디오, 언어 과제에 어떻게 적용되는가?
• RQ3 생성 모델 벤치마크에 일반적으로 사용되는 데이터셋과 지표는 무엇이며 GenAI 배치 시 어떤 윤리적 고려가 필요한가?
• RQ4 책임 있는 GenAI 개발의 주요 도전과 향후 방향은 무엇인가?

주요 결과

• GAN은 학습 발산 및 모드 붕괴를 해결했고 개선으로 W-GAN, LS-GAN 등이 포함됩니다.
• 트랜스포머는 강력한 시퀀스 모델링 및 기본 NLP 모델(GPT, BERT 등)을 가능하게 했습니다.
• VAE는 확률적 잠재 표현을 제공하고 denoising autoencoders 같은 변형이 있으며 Bicycle GAN은 다양성 및 현실성의 균형을 보여줍니다.
• 확산 모델과 정규화 흐름은 반복적 정제와 함께 강력한 생성 능력을 제공합니다.
• 응용 분야는 이미지 변환(의료 및 위성 이미징), 비디오 합성(대화형 얼굴 및 표정 기반 생성), 텍스트-이미지 및 분자 생성까지 확장됩니다.
• 논문은 Responsible AI 원칙 및 지속 가능한 GenAI 성장을 위한 윤리적 고려사항을 강조합니다.