[論文レビュー] Analyzing and Improving Fast Sampling of Text-to-Image Diffusion Models

Zhenyu Zhou, Defang Chen+3 more|arXiv (Cornell University)|Feb 28, 2026

Generative Adversarial Networks and Image Synthesis被引用数 0

ひとこと要約

この論文は訓練不要の拡散サンプリングコンポーネントを分析し、TOR Sを導入する。これは幾何学に基づく外部スケジューリングで総回転を一定に保ち、少ステップで高品質な画像を実現し、複数のモデルで従来手法を上回る。

ABSTRACT

Text-to-image diffusion models have achieved unprecedented success but still struggle to produce high-quality results under limited sampling budgets. Existing training-free sampling acceleration methods are typically developed independently, leaving the overall performance and compatibility among these methods unexplored. In this paper, we bridge this gap by systematically elucidating the design space, and our comprehensive experiments identify the sampling time schedule as the most pivotal factor. Inspired by the geometric properties of diffusion models revealed through the Frenet-Serret formulas, we propose constant total rotation schedule (TORS), a scheduling strategy that ensures uniform geometric variation along the sampling trajectory. TORS outperforms previous training-free acceleration methods and produces high-quality images with 10 sampling steps on Flux.1-Dev and Stable Diffusion 3.5. Extensive experiments underscore the adaptability of our method to unseen models, hyperparameters, and downstream applications.

研究の動機と目的

• 現代のテキスト対画像拡散モデルにおける訓練不要サンプリングのどの要素が性能に最も影響するかを特定する。
• 統一されたフレームワーク内でソルバー、外部スケジュール、キャッシュ手法を体系的に分析する。
• 初期サンプリング構造と収束を改善する幾何学に触発された外部スケジューリング戦略を提案する。
• 未知のモデル、ハイパーパラメータ、および下流タスクに対する提案手法の適応性と互換性を実証する。

提案手法

• サンプリングをソルバー、外部スケジュール、特徴キャッシュを含む統一デザイン空間として定義する。
• 軌跡ベースの指標と人間の好みスコアを用いて各コンポーネントの影響を定量化する。
• フレネ-セレ曲率とねじれに基づくConstant Total Rotation Schedule (TORS)を提案し、サンプリング軌跡に沿って計算を分配する。
• 弧長に基づく事前計算幾何統計を算出・適用して、総回転を一定に保つスケジュールを生成する。
• Flux.1-DevおよびStable Diffusion 3.5で複数のアクセラレータとモデル間転送性を用いてTORSとベースライン手法を評価する。

実験結果

リサーチクエスチョン

• RQ1 少数ステップ生成で性能に最も影響を与えるのはソルバー、外部スケジュール、キャッシュのうちどの要素か。
• RQ2 幾何学情報に基づく外部スケジューリング戦略は、最小ステップで構造収束と画像品質を改善できるか。
• RQ3 未知のモデル、LoRAバリアント、画像編集などの下流タスクへ提案スケジューリングはどれくらい一般化するか。
• RQ4 新しい手法は既存の訓練不要加速技術とどれくらい互換性があるか。
• RQ5 10ステップサンプリングを用いた場合、基準の50ステップ生成に対する知覚品質の相対的改善はどれくらいか。

主な発見

Model	Steps	IR	CS	AS	HPSv2
Flux.1-Dev Baseline	50	0.96	30.61	5.73	30.15
Flux.1-Dev	20	0.93	30.76	5.68	29.30
Flux.1-Dev	10	0.71	30.08	5.53	27.70
FORA (10 steps)	10	0.71	30.32	5.53	27.71
TaylorSeers (10 steps)	10	0.77	30.38	5.58	28.19
DPM-Solver (10 steps)	10	0.73	30.27	5.58	27.98
UniPC (10 steps)	10	0.78	30.41	5.58	28.16
TPDM (10 steps)	10	0.76	30.07	5.69	28.82
GITS (10 steps)	10	0.90	30.53	5.65	29.13
TORS (10 steps)	10	0.97	30.97	5.71	29.30
Stable Diffusion 3.5 Baseline	50	0.97	33.26	5.37	28.64
Stable Diffusion 3.5	20	0.94	33.32	5.36	27.95
Stable Diffusion 3.5	10	0.55	32.77	5.23	25.31
FORA (10 steps)	10	0.56	32.81	5.27	25.40
TaylorSeers (10 steps)	10	0.54	32.73	5.22	25.25
DPM-Solver (10 steps)	10	0.61	32.88	5.26	25.73
UniPC (10 steps)	10	0.69	32.88	5.29	26.43
TPDM (10 steps)	10	0.60	33.10	5.26	25.47
GITS (10 steps)	10	0.75	32.72	5.25	25.89
TORS (10 steps)	10	0.86	33.13	5.33	26.90

• 外部スケジュールが訓練不要加速の中で支配的な性能要因である。
• TORSは10ステップで構造的収束を速め、画像品質を高め、検証済みモデルで50ステップのベースラインに近づく。
• 高次ソルバーはEulerよりも一貫した、しかし控えめな品質向上を提供する。
• 特徴キャッシュの有効性はモデルと設定によって異なり、深いキャッシュでは一部設定で収益の逓減が見られる。
• TORSは未知のモデル・ハイパーパラメータ・LoRAバリアント・下流タスク（例：画像編集）に対して強い適応性を示す。