[論文レビュー] Self-Consuming Generative Models Go MAD

Sina Alemohammad, Josue Casco-Rodriguez+6 more|arXiv (Cornell University)|Jul 4, 2023

Generative Adversarial Networks and Image Synthesis被引用数 15

ひとこと要約

本論文は、前世代からの合成データで訓練されたモデルが、十分な新鮮な実データがない場合、世代を重ねるごとにモデルの品質（精度）または多様性（リコール）が低下する現象を MAD と名付けて分析する。

ABSTRACT

Seismic advances in generative AI algorithms for imagery, text, and other data types has led to the temptation to use synthetic data to train next-generation models. Repeating this process creates an autophagous (self-consuming) loop whose properties are poorly understood. We conduct a thorough analytical and empirical analysis using state-of-the-art generative image models of three families of autophagous loops that differ in how fixed or fresh real training data is available through the generations of training and in whether the samples from previous generation models have been biased to trade off data quality versus diversity. Our primary conclusion across all scenarios is that without enough fresh real data in each generation of an autophagous loop, future generative models are doomed to have their quality (precision) or diversity (recall) progressively decrease. We term this condition Model Autophagy Disorder (MAD), making analogy to mad cow disease.

研究の動機と目的

• 合成データが訓練パイプラインに過剰に proliferate する自己成長ループの正式な研究を動機付ける。
• 偏ったサンプリングの下で、完全に合成、合成増強、新鮮データという3つのループ変種を定義・比較する。
• 品質（精度）と多様性（リコール）を定量化する指標を開発し、世代を通じてその推移を追跡する。
• 理論と実験を通じて、新鮮な実データが不十分だとModel Autophagy Disorder（MAD）につながることを示す。
• 自己採取のバイアスが、自己成長ループにおける品質と多様性のトレードオフにどう影響するかを強調する。

提案手法

• 実データと合成データの混合で訓練されるモデルの系列として自己成長プロセスを formalize する。
• 完全に合成、合成増強、実データを用いた3つのループ変種を導入し、データ構成の定義を厳密化する。
• 合成データ生成における品質と多様性のトレードオフをモデル化する普遍的なサンプリングバイアスパラメータ λ を組み込む。
• Gaussian の玩具モデルと実在の生成モデル（DDPM、StyleGAN-2、WGAN、Normalizing Flows）を用いてループの挙動を分析する。
• 品質と多様性の代理指標としての precision、recall、Fréchet Inception Distance（FID）を用い、分布のドリフトには Wasserstein 距離を用いる。
• MAD ダイナミクスを、異なるループとバイアス下で MNIST と FFHQ のデータセットで実証的に示す。

実験結果

リサーチクエスチョン

• RQ1 自己成長ループは世代を重ねるにつれて生成モデルの収束または発散にどのように影響するか。
• RQ2 完全に合成、合成増強、実データというループ種別が、世代間で品質と多様性に与える影響はどのようなものか。
• RQ3 サンプリングバイアス（品質-多様性のトレードオフ）がMAD挙動にどう影響するか。
• RQ4 新鮮な実データは劣化を防ぐことができるか、どの条件で性能の安定化/安定化失敗が起こるか。
• RQ5 結論は画像以外のモデルファミリやデータ領域にも当てはまるのか。

主な発見

• 完全に合成のループは、世代が進むにつれて品質（精度）と多様性（リコール）の両方を失う。
• サンプリングバイアスを導入すると、多様性を犠牲にして品質を維持できる場合があり、リコールの劣化を加速しFIDを増加させる。
• 固定された実データを用いた合成増強はMADを遅延させるが防げない。結局は品質または多様性のいずれかが劣化する。
• 新鮮なデータを各世代に含むループは、世代ごとに十分な実データがあれば劣化を防ぐことができる。
• モデルファミリ（DDPM、StyleGAN-2、WGAN、Normalizing Flows）とデータセット（MNIST、FFHQ）を横断して、実データが不十分な場合は自己成長ループがMAD挙動を示す。
• 高品質モードへ biased sampling は、合成データ中のアーティファクトを増幅し、世代を重ねるごとに多様性を低下させる。