[論文レビュー] Teach LLMs to Personalize -- An Approach inspired by Writing Education

Cheng Li, Mingyang Zhang+5 more|arXiv (Cornell University)|Aug 15, 2023

Topic Modeling被引用数 7

ひとこと要約

本論文は、ライティング教育にインspiredされたマルチステージ・マルチタスクフレームワークを提案し、大規模言語モデル（LLMs）にパーソナライズド・テキスト生成を学習させる。検索、ランク付け、要約、統合、生成という5段階に分解されたプロセスに加え、著者識別による読解力向上を目的としたマルチタスク目的を組み合わせることで、メール、ソーシャルメディア、製品レビューという3つの多様なデータセットにおいて、強力なベースラインを上回る顕著なパフォーマンス向上を達成した。

ABSTRACT

Personalized text generation is an emerging research area that has attracted much attention in recent years. Most studies in this direction focus on a particular domain by designing bespoke features or models. In this work, we propose a general approach for personalized text generation using large language models (LLMs). Inspired by the practice of writing education, we develop a multistage and multitask framework to teach LLMs for personalized generation. In writing instruction, the task of writing from sources is often decomposed into multiple steps that involve finding, evaluating, summarizing, synthesizing, and integrating information. Analogously, our approach to personalized text generation consists of multiple stages: retrieval, ranking, summarization, synthesis, and generation. In addition, we introduce a multitask setting that helps the model improve its generation ability further, which is inspired by the observation in education that a student's reading proficiency and writing ability are often correlated. We evaluate our approach on three public datasets, each of which covers a different and representative domain. Our results show significant improvements over a variety of baselines.

研究の動機と目的

• ドメイン特化型モデルを超える汎用的なパーソナライズド・テキスト生成のためのアプローチを開発すること。
• 過去のユーザーの文章などの補助的個人的文脈を用いて、LLMsがコンテンツをパーソナライズする方法を教えるというギャップを埋めること。
• ライティング指導の教育的プロセス（探し出し、評価し、要約し、統合し、書く）を模倣することで、LLMsの生成能力を向上させること。
• 著者識別タスクを導入することで、LLMsにおける読解力と書く力の相関関係を調査すること。
• メール、ソーシャルメディア、製品レビューを含む多様なドメインで、フレームワークの実証的妥当性を検証すること。

提案手法

• フレームワークは、パーソナライズド生成を5段階に分解する：関連する個人的文脈の検索、関連性のランク付け、上位結果の要約、主要要素の統合、最終的な生成。
• モデルは、ドキュメントペアに対してテキスト生成と著者識別を同時に実行するマルチタスク学習設定を採用し、読解（理解）能力を強化する。
• モデルは、検索・ランク付け・要約・統合によって得られた情報を文脈として用い、生成段階はすべての前段階に条件付けられる。
• 著者識別予測タスクは、モデルが個人文書内のスタイルおよび内容のパターンを解釈・内省する能力を向上させることを目的としている。
• フレームワークは、メール、ソーシャルメディア、製品レビューをカバーする3つの公開データセット上でエンドツーエンドに訓練され、コンponentの寄与度を分離するアブレーションスタディが実施された。
• フレームワークは、LLMsの few-shot および few-shot ファインチューニング能力を活用し、タスク固有の設計を最小限に抑えて新しいパーソナライズドタスクに適応可能である。

実験結果

リサーチクエスチョン

• RQ1 ライティング教育にインspiredされたマルチステージフレームワークは、LLMsにおけるパーソナライズド・テキスト生成を改善できるか？
• RQ2 著者識別による読解力向上が、LLMsの書く力（生成）パフォーマンスを向上させるか？
• RQ3 多様なドメインにおいて、マルチステージパイプラインはエンドツーエンドベースラインと比較して、パーソナライズド品質で優れているか？
• RQ4 入力にドキュメントの初期文脈を含めることで生成パフォーマンスにどのような影響があるか？
• RQ5 ソース情報の順序を変更したり、削除したりするとパフォーマンスが低下するか？その理由は何か？

主な発見

• 提案されたマルチステージ・マルチタスクフレームワークは、メール、ソーシャルメディア、製品レビューをカバーする3つの公開データセットにおいて、複数の強力なベースラインを顕著に上回った。
• 著者識別タスクを含むマルチタスク設定は、生成品質を一貫して向上させ、LLMsにおける読解力と書く力の正の相関関係を示した。
• アブレーションスタディの結果、ドキュメントの開始部分（初期文脈）を削除するとパフォーマンスが低下し、タスク理解や収束速度向上に有用であることが示された。
• 検索、ランク付け、要約、統合、生成のすべての段階が有効な際、モデルは最高のパフォーマンスを発揮し、NoRankedEntriesでは顕著なパフォーマンス低下が見られた。これは、構造化された文脈に依存していることを示している。
• 統合コンponentは、キーテーマ（例：「開発者」や「クライアント」）に焦点を当てることで、よりトピックに即した、よりパーソナライズドな応答を可能にした。
• 著者識別予測タスクは、モデルがユーザーのスタイルをよりよく解釈できるようにし、事例スタディで高レベルのレビューのパターンをより正確に捉える、より正確でパーソナライズドなコンテンツを生成することに寄与した。