[論文レビュー] Don't Start Over: A Cost-Effective Framework for Migrating Personalized Prompts Between LLMs

Ziyi Zhao, Chongming Gao+6 more|arXiv (Cornell University)|Jan 17, 2026

Topic Modeling被引用数 0

ひとこと要約

PUMAは軽量アダプタとグループベースのユーザー選択を用いて、互換性のないLLM間でユーザー個別のソフトプロンプトを移行し、完全再訓練と同等以上の性能を維持しつつ最大98%のコスト削減を達成する。

ABSTRACT

Personalization in Large Language Models (LLMs) often relies on user-specific soft prompts. However, these prompts become obsolete when the foundation model is upgraded, necessitating costly, full-scale retraining. To overcome this limitation, we propose the Prompt-level User Migration Adapter (PUMA), a lightweight framework to efficiently migrate personalized prompts across incompatible models. PUMA utilizes a parameter-efficient adapter to bridge the semantic gap, combined with a group-based user selection strategy to significantly reduce training costs. Experiments on three large-scale datasets show our method matches or even surpasses the performance of retraining from scratch, reducing computational cost by up to 98%. The framework demonstrates strong generalization across diverse model architectures and robustness in advanced scenarios like chained and aggregated migrations, offering a practical path for the sustainable evolution of personalized AI by decoupling user assets from the underlying models.

研究の動機と目的

• ソフトプロンプトがファウンデーションモデルのアップグレードに対して1+Nパーソナライズ系統で脆弱であることに対処する。
• 完全再訓練なしで数千のユーザープロンプトを異なるモデル間で移行するコスト効率的な方法を開発する。
• パラメータ効率の高いアダプタとセマンティック整合性とスケーラビリティを確保するグループベースのユーザー選択戦略を提案する。
• 多様なモデルアーキテクチャと高度な移行トポロジー（連鎖型と集約型）での堅牢性を示す。
• 移行がゼロからの再訓練を上回ることができ、ユーザー資産をモデルから独立させられることを示す。

提案手法

• thetaでパラメータ化されたアダプタ型移行関数 Phi を導入し、ソースプロンプトをターゲットプロンプトへ異なる埋め込み次元をわたってマッピングする。
• ソースプロンプトとモデルを凍結した状態でターゲットモデルのタスク損失に対して Phi をエンドツーエンドで訓練する。
• Phi として残差接続とLayer Normalizationを用いた軽量な前向きフィードフォワードアダプタを使用する。
• 多段階のグループベースのユーザー選択を実装する：多様性のためのK-meansクラスタリングに続き、分散ベースのグループサンプリングで小規模な代表トレーニングサブセットを形成する。
• PUMAを高度な移行トポロジーへ拡張する：連鎖移行と複数ソースのプロンプトを連結して集約移行を実現する。
• 三つの大規模データセット（Amazon, MIND, Yelp）にわたり複数のモデリングファミリで評価し、一般化と堅牢性を示す。

Figure 1: The “1+N” system (left) and an illustration of the migration of personalized prompts to a new LLM (right).

実験結果

リサーチクエスチョン

• RQ1 RQ1: PUMAは完全再訓練と比較してユーザー個人化をどれくらい効果的に移行できるか？
• RQ2 RQ2: グループベースのユーザー選択は、同じ予算内で性能を保ちつつコストをどれだけ削減できるか？
• RQ3 RQ3: PUMAは多様なモデルアーキテクチャとファミリに一般化できるか？
• RQ4 RQ4: 連鎖型と集約型の高度な移行においてPUMAはどれだけ堅牢か？

主な発見

• PUMAは完全再訓練と同等以上の性能を保ちつつ、計算量を大幅に削減（最大98%のコスト削減）。
• グループベースのユーザー選択戦略により効率を実現し、同じ予算内でランダムサンプリングよりも優れた性能を発揮。
• PUMAは多様なアーキテクチャおよびモデリングファミリにわたり良好に一般化し、移行は再訓練よりしばしば利益を生む。
• 連鎖移行では複数の連続的なモデル更新に対して性能が堅牢であり、複数ソースからの集約移行は知識を融合して個人化を改善する。
• 集約ソース設定は単一ソースの移行を上回ることがあり、複数のファウンデーションモデルからの知識の相乗効果を示す。

Figure 2: Illustration of PUMA, consisting of a group-based user selection strategy and a migration adapter. Users are first clustered via $K$ -means on personalized embeddings, then sub-grouped by output variance, from which training users are sampled.