[論文レビュー] UniAudio: An Audio Foundation Model Toward Universal Audio Generation

Dongchao Yang, Jinchuan Tian+10 more|arXiv (Cornell University)|Oct 1, 2023

Music and Audio Processing被引用数 14

ひとこと要約

UniAudio は、オーディオとモダリティをトークン化し、マルチスケールの Transformer を用い、165k 時間と 1B パラメータへスケールさせることで、11 個の音声生成タスクを単一の LLM ベースのモデルに統合します。競争力のある、あるいは最先端の結果を示し、未知のタスクへのファインチューニングをサポートします。

ABSTRACT

Large Language models (LLM) have demonstrated the capability to handle a variety of generative tasks. This paper presents the UniAudio system, which, unlike prior task-specific approaches, leverages LLM techniques to generate multiple types of audio (including speech, sounds, music, and singing) with given input conditions. UniAudio 1) first tokenizes all types of target audio along with other condition modalities, 2) concatenates source-target pair as a single sequence, and 3) performs next-token prediction using LLM. Also, a multi-scale Transformer model is proposed to handle the overly long sequences caused by the residual vector quantization based neural codec in tokenization. Training of UniAudio is scaled up to 165K hours of audio and 1B parameters, based on all generative tasks, aiming to obtain sufficient prior knowledge not only in the intrinsic properties of audio but also the inter-relationship between audio and other modalities. Therefore, the trained UniAudio model has the potential to become a foundation model for universal audio generation: it shows strong capability in all trained tasks and can seamlessly support new audio generation tasks after simple fine-tuning. Experiments demonstrate that UniAudio achieves state-of-the-art or at least competitive results on most of the 11 tasks. Demo and code are released at https://github.com/yangdongchao/UniAudio

研究の動機と目的

• 1つのアーキテクチャで複数のタスクを網羅する普遍的な音声生成モデルの必要性を提示する。
• 音声および入力モダリティの統一的なトークン化とシーケンスモデリング手法を提案する。
• ニューラル・コーデックベースの音声トークンからの長いトークン列を効率的に扱うためのマルチスケールTransformerを開発する。
• 広範な音声事前分布とモダリティ間の関係を捉えるため、165k 時間および 1B パラメータへ学習をスケールする。
• 未知の音声生成タスクに対する共同学習とファインチューニングの実現可能性と利点を示す。

提案手法

• 音声（スピーチ、サウンド、音楽、歌唱）を含むすべての音声タイプおよび他のモダリティを、音声用の普遍的なニューラル・コーデックと他モダリティ用の別個のトークナイザを用いて離散列にトークン化する。
• ソース-ターゲットのペアを1つのシーケンスとして連結し、すべてのタスクを LM による次トークン予測として定式化する。
• RVQベースの音声トークンによる長いトークン列に対処するため、フレーム間（グローバル）およびフレーム内（ローカル）の相関をモデル化するマルチスケールTransformerを用いる。
• 複数の音声生成タスクにわたって、約1Bパラメータで165k時間のデータ上訓練する；未知のタスクに対してファインチューニングを行い適応性を示す。
• タスク・モダリティ・シーケンス境界を区切る固定の共通語彙と特別トークンを使用する；推論時にはトップ-k サンプリングを採用する。

実験結果

リサーチクエスチョン

• RQ1 単一のモデルは、さまざまな音声生成タスク（スピーチ、サウンド、音楽、歌唱）とモダリティを横断して学習・一般化できるだろうか？
• RQ2 複数タスクの共同学習は、個々のタスクに対するパフォーマンスをタスク固有モデルと比べて改善するのだろうか？
• RQ3 マルチスケール Transformer は、ニューラル・コーデックに基づく音声表現からの長いトークン列を効率的に処理しつつ、生成品質を維持できるのだろうか？

主な発見

• UniAudio は、11 の音声生成タスクのうち多くで、客観評価および主観評価の両方で競争力のあるまたは最先端の結果を達成する。
• Joint training across tasks offers mutual benefits and improves performance compared to per-task models.
• The multi-scale Transformer effectively reduces computational complexity and preserves auto-regressive generation quality for long audio token sequences.
• Fine-tuning UniAudio on unseen tasks yields strong performance, outperforming some baselines and approaching or surpassing ground-truth quality in certain cases.
• The model demonstrates scalability and adaptability, enabling new audio generation tasks with simple fine-tuning.