[論文レビュー] Generative Artificial Intelligence: A Systematic Review and Applications

Sandeep Singh Sengar, Affan Bin Hasan+2 more|arXiv (Cornell University)|May 17, 2024

Artificial Intelligence in Healthcare被引用数 26

ひとこと要約

この論文は最近の Generative AI 技術（GANs、VAEs、diffusion、transformers）と、それらの画像、動画、言語タスクへの適用を調査し、データセット、指標、課題、責任ある AI の考慮事項について論じる。

ABSTRACT

In recent years, the study of artificial intelligence (AI) has undergone a paradigm shift. This has been propelled by the groundbreaking capabilities of generative models both in supervised and unsupervised learning scenarios. Generative AI has shown state-of-the-art performance in solving perplexing real-world conundrums in fields such as image translation, medical diagnostics, textual imagery fusion, natural language processing, and beyond. This paper documents the systematic review and analysis of recent advancements and techniques in Generative AI with a detailed discussion of their applications including application-specific models. Indeed, the major impact that generative AI has made to date, has been in language generation with the development of large language models, in the field of image translation and several other interdisciplinary applications of generative AI. Moreover, the primary contribution of this paper lies in its coherent synthesis of the latest advancements in these areas, seamlessly weaving together contemporary breakthroughs in the field. Particularly, how it shares an exploration of the future trajectory for generative AI. In conclusion, the paper ends with a discussion of Responsible AI principles, and the necessary ethical considerations for the sustainability and growth of these generative models.

研究の動機と目的

• 最先端の生成AI 技術とアーキテクチャを要約する。
• 画像翻訳、動画合成、NLP における生成モデルの応用を総合する。
• GenAI メソッドをベンチマークするために用いられるデータセットと評価指標を比較する。
• 責任ある AI の原則と GenAI の持続可能な成長に向けた課題、機会、今後の展望を強調する。

提案手法

• 生成AI 技術と応用に焦点を当てた対象文献調査を実施する（2012–2023）。
• モデルをセクションごとに GANs、transformers、VAEs、diffusion モデルに分類する。
• トレーニングの安定性、モード崩壊などの基礎的問題と、それに対する改善（W-GAN、LS-GAN など）を論じる。
• 代表的なデータセットと評価指標（FID、KID、RMSE、SSIM、PSNR、LPIPS）を用いた応用分野をレビューする。
• GenAI の倫理的配慮と Responsible AI 原則を扱う。

実験結果

リサーチクエスチョン

• RQ1 2012 年から 2023 年にかけて主要な生成AI 手法は何で、それらはどのように進化してきたのか。
• RQ2 GANs、VAEs、diffusion モデル、transformers は画像、動画、言語タスクの各分野でどのように適用されているのか。
• RQ3 生成モデルをベンチマークするために一般的に用いられるデータセットと指標は何か、GenAI の展開における倫理的配慮は何か。
• RQ4 責任ある GenAI の開発における主要な課題と今後の方向性は何か。

主な発見

• GANs はトレーニングの発散とモード崩壊に対処し、改善策として W-GAN や LS-GAN が挙げられる。
• Transformers は強力な系列モデリングと基盤的な NLP モデル（例：GPT、BERT）を可能にした。
• VAEs は確率的潜在表現を提供し、ノイズ除去オートエンコーダなどの派生形がある。Bike le GANs は多様性と現実性のバランスを示した。
• Diffusion モデルと正規化フローは反復的な洗練化により強力な生成能力を提供する。
• 応用は画像翻訳（医療画像や衛星画像）、動画合成（トーキングヘッドや表情駆動生成）、テキストから画像への生成や分子生成などを含む。
• 本論文は責任ある AI の原則と GenAI の持続可能な成長をめぐる倫理的配慮を強調する。