[论文解读] Generative Artificial Intelligence: A Systematic Review and Applications

Sandeep Singh Sengar, Affan Bin Hasan+2 more|arXiv (Cornell University)|May 17, 2024

Artificial Intelligence in Healthcare被引用 26

一句话总结

这篇论文综述了近代生成式 AI 技术（GANs、VAEs、扩散、 transformers）及其在图像、视频和语言任务中的应用，讨论数据集、评估指标、挑战以及负责任AI 考量。

ABSTRACT

In recent years, the study of artificial intelligence (AI) has undergone a paradigm shift. This has been propelled by the groundbreaking capabilities of generative models both in supervised and unsupervised learning scenarios. Generative AI has shown state-of-the-art performance in solving perplexing real-world conundrums in fields such as image translation, medical diagnostics, textual imagery fusion, natural language processing, and beyond. This paper documents the systematic review and analysis of recent advancements and techniques in Generative AI with a detailed discussion of their applications including application-specific models. Indeed, the major impact that generative AI has made to date, has been in language generation with the development of large language models, in the field of image translation and several other interdisciplinary applications of generative AI. Moreover, the primary contribution of this paper lies in its coherent synthesis of the latest advancements in these areas, seamlessly weaving together contemporary breakthroughs in the field. Particularly, how it shares an exploration of the future trajectory for generative AI. In conclusion, the paper ends with a discussion of Responsible AI principles, and the necessary ethical considerations for the sustainability and growth of these generative models.

研究动机与目标

• 总结最先进的生成式 AI 技术和架构。
• 综合生成模型在图像翻译、视频合成与自然语言处理中的应用。
• 比较用于基准 GenAI 方法的数据集和评估指标。
• 突出 GenAI 发展中的挑战、机遇和负责任 AI 的未来方向。

提出的方法

• 开展有针对性的文献综述（2012–2023），聚焦生成式 AI 技术与应用。
• 在各节中将模型分为 GANs、transformers、VAEs 和扩散模型。
• 讨论基础性问题（训练稳定性、模式崩溃）及随后的改进（W-GAN、LS-GAN 等）。
• 回顾应用领域，给出具有代表性的数据集和评估指标（FID、KID、RMSE、SSIM、PSNR、LPIPS）。
• 讨论 GenAI 的伦理考量和负责任 AI 原则。

实验结果

研究问题

• RQ1 2012 年至 2023 年，主要的生成式 AI 技术有哪些，它们如何演变？
• RQ2 GANs、VAEs、扩散模型和 transformers 如何在图像、视频和语言任务中应用？
• RQ3 常用来基准生成模型的数据集和指标是什么，在部署 GenAI 时有哪些伦理考量？
• RQ4 在负责任 GenAI 发展中，关键挑战和未来方向是什么？

主要发现

• GANs 解决了训练发散和模式崩溃的问题；改进包括 W-GAN 和 LS-GAN。
• Transformers 实现强大的序列建模和基础 NLP 模型（如 GPT、BERT）。
• VAEs 提供概率潜在表征，且有去噪自编码器等变体；Bicycle GANs 展示了多样性与现实性之间的平衡。
• 扩散模型和正则化流提供强大的生成能力，伴随迭代式的精化。
• 应用涵盖图像翻译（医学和卫星影像）、视频合成（对话头和表情驱动生成）、以及文本到图像和分子生成。
• 本文强调负责任 AI 原则和 GenAI 可持续增长的伦理考量。