[論文レビュー] Advancements in Scientific Controllable Text Generation Methods

Arnav Goel, Medha Hira+3 more|arXiv (Cornell University)|Jul 8, 2023

Natural Language Processing Techniques被引用数 6

ひとこと要約

本稿は、科学的制御的テキスト生成のための新規な七モジュールスキームを提案し、既存の手法を統一的なフレームワークに統合することで、スタイル、センチメント、構造などのテキスト属性に対する正確な制御を可能にする。符号化、デコード、学習目的の各段階における変調戦略を体系的に分析することで、コンponentの組み合わせによる新規アーキテクチャの設計を可能とし、将来の実証的比較および大規模言語モデル（LLMs）を用いた科学的テキスト生成における制御性の向上に基盤を提供する。

ABSTRACT

The previous work on controllable text generation is organized using a new schema we provide in this study. Seven components make up the schema, and each one is crucial to the creation process. To accomplish controlled generation for scientific literature, we describe the various modulation strategies utilised to modulate each of the seven components. We also offer a theoretical study and qualitative examination of these methods. This insight makes possible new architectures based on combinations of these components. Future research will compare these methods empirically to learn more about their strengths and utility.

研究の動機と目的

• 制御的テキスト生成分野における散在する研究を、一貫性があり統合的なフレームワークに整理すること。
• 制御的科学的テキスト生成に不可欠な7つの主要なコンponentsを特定・分析すること。
• モジュラーコンponentsの組み合わせによる新規アーキテクチャ設計のための理論的・定性的基盤を提供すること。
• さまざまな変調戦略の強みと有用性を強調することで、将来の実証的研究を導くこと。
• 生成パイプラインの構造的分解を通じて、大規模言語モデル（LLMs）を用いた科学的テキスト生成における制御性を向上させること。

提案手法

• 外部入力、逐次入力、識別器、符号化操作、デコード戦略、出力プロジェクション、学習目的の7モジュールスキームを提案。
• 各モジュールがスタイル、センチメント、意図などのテキスト生成特性を制御する役割を果たすことを分析。
• 条件付き入力のインジェクション、損失ベースの学習、アテンション機構などの変調戦略を各コンponentに導入し、細かく制御可能な制御を実現。
• 自己回帰的かつ非条件付き言語モデルを基本ジェネレータとして用い、モジュラー制御メカニズムで強化することを強調。
• 強化学習と人間のフィードバックによる微調整（RLHF）、プロンプト技術（例：コト・オブ・ススム、ルーストゥモスト）およびリtrieval増強技術を組み合わせることで、正確性を向上させ、幻覚を低減することを推奨。
• ドメイン特化したファインチューニングとリトリーブ増強生成を用いることで、モデル出力を科学的コーパス内に制約することを提案。

Figure 1: Modules Schema for the scientific controllable text generation process.

実験結果

リサーチクエスチョン

• RQ1 科学的文献における既存の制御的テキスト生成手法を、体系的かつ統合的に整理・統合する方法は何か？
• RQ2 スタイル、センチメント、意図などのテキスト属性を制御するために必要なコアコンポーネントと変調戦略は何か？
• RQ3 これらのコンポーネントのモジュラーな組み合わせが、どのように新規で効果的なテキスト生成アーキテクチャを生み出すのか？
• RQ4 プロンプト技術、リトリーブ、ファインチューニングなどの技術は、制御性の向上と幻覚の低減にどのような役割を果たすのか？
• RQ5 将来の実証的評価は、さまざまなコンポーネントの組み合わせの強みと有用性をどのように比較できるか？

主な発見

• 提案された七モジュールスキームは、科学的文脈における制御的テキスト生成を整理・理解する包括的かつ体系的なフレームワークを提供する。
• 条件付き入力のインジェクションや損失ベースの学習といった変調戦略により、センチメントやフォーマルさといったテキスト属性に対する正確な制御が可能になる。
• リトリーブ増強生成とコト・オブ・ススム、ツリー・オブ・ススムといったプロンプト技術は、引用生成における幻覚を顕著に低減し、推論能力を向上させる。
• Llama、PaLM、Alpacaなどのモデルを用いたドメイン特化したコーパスによるファインチューニングは、科学的テキスト生成タスクにおけるパフォーマンスを向上させる。
• 現在のシステムは、同時に複数の文書を引用する能力を欠いているため、将来的な開発における重要な分野である。
• このスキームにより、各モジュールからの有望な技術を組み合わせることで、新規アーキテクチャの設計が可能となり、将来の実証的ベンチマークへの道筋が開かれる。

Figure 2: Top-K Sampling Pass 1