[論文レビュー] DP-OPT: Make Large Language Model Your Privacy-Preserving Prompt Engineer

Junyuan Hong, Jiachen T. Wang+4 more|arXiv (Cornell University)|Nov 27, 2023

Privacy-Preserving Technologies in Data被引用数 5

ひとこと要約

DP-OPT は、クライアント側で微分プライバシーを適用した離散的プロンプトを生成することで、プライバシーを守りながら大規模言語モデル（LLMs）がプライバシー保護型のプロンプトエンジニアとして機能できる画期的なフレームワークです。データ機密性とモデルの知的財産権保護を確保しながら、GPT-3.5 や Llama-2、Vicuna-33b などのクローズドソースおよびオープンソースのクラウドモデルに移行した場合でも、非プライベートなコンテキスト内学習やローカルチューニングと同等の性能を達成しています。

ABSTRACT

Large Language Models (LLMs) have emerged as dominant tools for various tasks, particularly when tailored for a specific target by prompt tuning. Nevertheless, concerns surrounding data privacy present obstacles due to the tuned prompts' dependency on sensitive private information. A practical solution is to host a local LLM and optimize a soft prompt privately using data. Yet, hosting a local model becomes problematic when model ownership is protected. Alternative methods, like sending data to the model's provider for training, intensify these privacy issues facing an untrusted provider. In this paper, we present a novel solution called Differentially-Private Offsite Prompt Tuning (DP-OPT) to address this challenge. Our approach involves tuning a discrete prompt on the client side and then applying it to the desired cloud models. We demonstrate that prompts suggested by LLMs themselves can be transferred without compromising performance significantly. To ensure that the prompts do not leak private information, we introduce the first private prompt generation mechanism, by a differentially-private (DP) ensemble of in-context learning with private demonstrations. With DP-OPT, generating privacy-preserving prompts by Vicuna-7b can yield competitive performance compared to non-private in-context learning on GPT3.5 or local private prompt tuning. Codes are available at https://github.com/VITA-Group/DP-OPT .

研究の動機と目的

• 機密性の高いデータを信頼できないクラウドモデルに共有する必要があるプロンプトチューニングにおけるデータプライバシーの重要な課題に取り組む。
• ローカルでのモデル学習やパラメータの露呈を回避することで、データ機密性とモデルの知的財産権の両方を保護する。
• クラウドモデルの重みにアクセスせずに、プライベートなデータとローカル LLM のみを用いて、クライアントデバイス上で効果的なプロンプト生成を可能にする。
• 勾配や公開データに依存せずに、プライバシー損失をきめ細かく制御する微分プライバシー機構をプロンプト生成プロセスに直接統合する。
• LLM が生成したプロンプトが異種のモデル間で転送可能であることを実証し、外部のクラウド LLM で高い性能を発揮できるようにする。

提案手法

• プライベートなトレーニングデータに基づき、ローカルで小規模な LLM（例：Vicuna-7b）を用いて、すべてのデータをクライアント側に保持したまま離散的プロンプトを生成する。
• 非公開のデモサブセットを分割して用いたコンテキスト内学習の微分プライバシー版アンサンブルを適用し、形式的なプライバシー保証を伴うプロンプト生成を行う。
• 勾配や公開データに依存せずに、プライバシーを確保するための DP ノイズ機構をプロンプト生成プロセスに直接導入する。
• ローカルの検証データ上で性能を評価するプライベートなクライアント側最適化ループを用いてプロンプトをチューニングする。
• 最終的な離散的プロンプトをクラウドベースの LLM（例：GPT-3.5、Llama-2、Vicuna-33b）に再トレーニングせずに移行して推論を実行する。
• モデル間で互換性がある離散トークンベースのプロンプトを用い、異種アーキテクチャ間での転送可能性を実現する。

実験結果

リサーチクエスチョン

• RQ1 LLM はクライアント側で、機密性の高いデータを露呈せずに効果的かつプライベートな離散的プロンプトを生成できるか？
• RQ2 非公開のデモを用いたコンテキスト内学習による微分プライバシー付きのプロンプト生成は、パフォーマンスの低下を伴わずに強力なプライバシー保証を提供できるか？
• RQ3 ローカル LLM が生成したプロンプトは、高性能でクローズドソースのクラウド LLM（例：GPT-3.5）に効果的に転送可能で、同等の性能を発揮できるか？
• RQ4 DP-OPT の性能は、非プライベートなコンテキスト内学習やローカルプライベートチューニングと比較して、精度とプライバシーのトレードオフにおいてどうなっているか？
• RQ5 Vicuna から GPT-3.5 への異種アーキテクチャ間でのプロンプト転送は、厳密なプライバシー制約のもとで実現可能で効果的か？

主な発見

• DP-OPT はクライアントデバイス上でエンドツーエンドのプライベートなプロンプトチューニングを実現し、データ機密性を確保するとともに、クラウドモデルの知的財産権を保護する。
• Vicuna-7b が DP-OPT を用いて生成したプロンプトは、HellaSwag タスクにおいて GPT-3.5 でテスト精度 86.3% を達成し、非プライベートなコンテキスト内学習の性能と同等である。
• Vicuna-7b から GPT-3.5 へのプロンプト転送において、HellaSwag ベンチマークで 78.6% の精度を達成し、優れた転送性を示している。
• DP-OPT の微分プライバシー付きプロンプト生成機構は、プライバシー損失をきめ細かく制御しており、勾配や公開データに依存しない。
• ARC-Challenge ベンチマークにおいて、Vicuna-7b から GPT-3.5 にプロンプトを転送した場合、65.4% の精度を達成し、タスク間での強力な一般化能力を示している。
• DP-OPT はプライバシーと精度のトレードオフにおいてベースライン手法を上回り、形式的な微分プライバシー保証を維持しながら高い性能を維持している。