[論文レビュー] Deep Extrapolation for Attribute-Enhanced Generation

Alvin Chan, Ali Madani+2 more|arXiv (Cornell University)|Jul 7, 2021

Protein Structure and Dynamics参考文献 49被引用数 12

ひとこと要約

本稿では、生成器と判別器を共同で訓練する正則化された潜在空間を用いて、学習分布をはるかに超える属性を有するシーケンスを強化する深層生成モデルGENhanceを提案する。本モデルは、訓練中にそれらの例に触れることなく、優れたテキストレビューの生成やより安定したタンパク質配列の生成において、最先端の性能を達成し、属性の外挿において顕著にベースラインを上回る。

ABSTRACT

Attribute extrapolation in sample generation is challenging for deep neural networks operating beyond the training distribution. We formulate a new task for extrapolation in sequence generation, focusing on natural language and proteins, and propose GENhance, a generative framework that enhances attributes through a learned latent space. Trained on movie reviews and a computed protein stability dataset, GENhance can generate strongly-positive text reviews and highly stable protein sequences without being exposed to similar data during training. We release our benchmark tasks and models to contribute to the study of generative modeling extrapolation and data-driven design in biology and chemistry.

研究の動機と目的

• シーケンスモデリングにおける学習分布をはるかに超える外挿として、属性強化型生成のタスクを形式化すること。
• 学習データに存在しない改善された属性（例：センチメント、安定性）を有するシーケンスを生成する課題に対処すること。
• 学習済み潜在空間を活用して、高属性領域に向けた生成を制御する生成フレームワークを開発すること。
• 生物学およびNLP分野における外挿的生成モデリングの再現可能性を高めるためのベンチマークデータセットとオラクルを公開すること。

提案手法

• GENhanceは、共有エンコーダとデコーダを備えた条件付きVAE型アーキテクチャを採用し、生成損失と識別損失を最小化するように、生成器と判別器を共同で訓練する。
• 潜在空間の正則化と、分布外領域への一般化の向上を目的として、潜在ベクトルのスムージングを導入する。
• 再構築されたシーケンスと元の入力を一致させるためにサイクル整合性損失を適用し、訓練の安定化と潜在空間の質の向上を図る。
• 生成器と判別器の構造を採用し、敵対的訓練を実施する。この際、判別器は属性スコアの順位付けとして機能する。
• 再構築、敵対的、サイクル整合性の3つの目的関数を組み合わせて、エンドツーエンドで訓練することで、属性外挿の性能を向上させる。
• 訓練データに存在しない属性値であっても、その値を条件として潜在空間からサンプリングすることで、属性強化型生成を実現する。

実験結果

リサーチクエスチョン

• RQ1 深層生成モデルは、自然言語およびタンパク質配列において、学習分布を著しく超える属性を持つシーケンスを生成できるか？
• RQ2 正則化された学習済み潜在空間は、標準的なGANベースやMCMCサンプリング手法と比較して、どのように属性外挿を改善するか？
• RQ3 サイクル整合性損失は、属性強化型生成における訓練の安定化と生成シーケンスの質の向上に、どのような役割を果たすか？
• RQ4 微調整に使用可能な分布外例がわずかにしか存在しない状況下で、GENhanceはどれほど高品質で高属性のサンプルを生成できるか？
• RQ5 訓練済みエンコーダを判別器と統合することで、標準的な判別器単体のアプローチと比較して、望ましいシーケンスの順位付けと生成性能はどのように向上するか？

主な発見

• GENhanceは、リジェクションサンプリングを用いたGen-DiscやMCMCベースの手法を含む、すべてのベースラインを蛋白質安定性生成の全指標で上回った。
• GENhanceが生成した配列は、すべての学習データ配列よりも平均ddG値が低く、最も安定した学習例よりもさらに安定している割合が顕著に高かった。
• モデルは、最も望ましい学習例を上回る属性値を持つ生成配列の割合（PCI_yτ）が高く、優れた性能を示した。
• 図4に示すように、GENhanceは、学習分布と比較して、生成された配列分布が著しく高い安定性領域へシフトしていることが確認された。
• アブレーションスタディの結果、サイクル整合性損失が性能向上に寄与した一方で、潜在空間スムージングはわずかに性能を低下させたことが判明し、目的関数最適化におけるトレードオフが示された。
• GENhanceのエンコーダを用いてベースライン生成器から得た配列を再順位付けすることで性能が向上した。これは、優れた符号化と復元の両方が、モデルの成功に寄与していることを裏付けた。