[論文レビュー] Privacy Preserving Prompt Engineering: A Survey

Kennedy Edemacu, Xintao Wu|arXiv (Cornell University)|Apr 9, 2024

Cryptography and Data Security被引用数 4

ひとこと要約

このサーベイは、大規模言語モデル（LLMs）におけるプライバシー保護型プロンプト技術を体系的に分類・分析し、文脈内学習（ICL）およびプロンプト技術に焦点を当てる。微分プライバシー、データの難読化、フェデレーテッドラーニング、暗号技術に基づく手法を評価し、プライバシー、有用性、公平性のトレードオフを明らかにするとともに、信頼性、マルチモーダル拡張、ベンチマーク手法における主な研究ギャップを特定する。

ABSTRACT

Pre-trained language models (PLMs) have demonstrated significant proficiency in solving a wide range of general natural language processing (NLP) tasks. Researchers have observed a direct correlation between the performance of these models and their sizes. As a result, the sizes of these models have notably expanded in recent years, persuading researchers to adopt the term large language models (LLMs) to characterize the larger-sized PLMs. The size expansion comes with a distinct capability called in-context learning (ICL), which represents a special form of prompting and allows the models to be utilized through the presentation of demonstration examples without modifications to the model parameters. Although interesting, privacy concerns have become a major obstacle in its widespread usage. Multiple studies have examined the privacy risks linked to ICL and prompting in general, and have devised techniques to alleviate these risks. Thus, there is a necessity to organize these mitigation techniques for the benefit of the community. This survey provides a systematic overview of the privacy protection methods employed during ICL and prompting in general. We review, analyze, and compare different methods under this paradigm. Furthermore, we provide a summary of the resources accessible for the development of these frameworks. Finally, we discuss the limitations of these frameworks and offer a detailed examination of the promising areas that necessitate further exploration.

研究の動機と目的

• LLMsにおけるプライバシー保護型プロンプトフレームワークを体系的に整理・分析し、特に文脈内学習（ICL）の文脈において行う。
• 非DP、ローカルDP、グローバルDP、その他の状況を区別する、プライバシーモデル、目的、脅威モデルに基づいたプライバシーメカニズムの分類を行う。
• プライバシー保護技術がLLMの信頼性要因（公平性、耐性、安全性、真実性を含む）に与える影響を評価する。
• ベンチマークデータセット、オープンソースツール、実世界システムへの統合における重要な研究ギャップを特定する。
• プライバシー保護型プロンプトの視覚言語モデル（VLMs）を含むマルチモーダルモデルへの拡張を検討する。

提案手法

• 非微分プライバシー（non-DP）、ローカル微分プライバシー（local DP）、グローバル微分プライバシー（global DP）、その他の状況に分類されるプライバシー保護型プロンプトフレームワークを四つの主要グループに分類する。
• 微分プライバシー（DP）、データの整列、ラティスベースの難読化、暗号化、モデルアンサンブルなどのメカニズムを分析し、プライバシー保証と運用制約を評価する。
• メカニズム-ターゲット連携モデルを用いて、各フレームワークをモデル入力、出力、中間表現といった特定のプライバシー目標にマッピングする。
• 各手法のパフォーマンスとプライバシーのトレードオフを評価し、合成データ生成におけるDPの小規模クラスへの悪影響を特に注視する。
• 既存のオープンソースライブラリおよびソフトウェアツールを調査し、それらが再識別攻撃に脆弱な匿名化に依存している点を指摘する。
• 将来的な研究方向性として、ユーザー制御生成制御のセキュアな統合や、DPフォワード技術を視覚、音声、動画モデルへと拡張することを提案する。

実験結果

リサーチクエスチョン

• RQ1 プライバシー保証、有用性、計算オーバーヘッドの観点から、異なるプライバシー保護型プロンプトフレームワークはどのように比較できるか？
• RQ2 文脈内学習に微分プライバシーを適用する際、プライバシー、公平性、モデルパフォーマンスの間にはどのようなトレードオフがあるか？
• RQ3 ユーザーに生成制御を共有する際、サーバー側の侵害リスクは、既存のフレームワークがどのように対処しているか？
• RQ4 視覚言語モデル（VLMs）のようなマルチモーダルモデルへの既存のプライバシー保護技術の拡張は、どの程度可能か？
• RQ5 現在のベンチマークデータセットおよびオープンソースツールは、プライバシー保護型プロンプトの再現可能で標準化された評価を可能にするか？

主な発見

• 微分プライバシー（DP）メカニズムはプライバシーに有効であるが、特に小規模クラスの合成データ生成において不平等を引き起こす可能性がある。
• 多くの既存のオープンソースプライバシー保護フレームワークは、再識別攻撃に脆弱であることが知られている匿名化に依存している。
• 暗号技術およびラティスベースのフレームワークは、信頼できないクライアントに生成制御を共有する場合、サーバーにセキュリティリスクをもたらす可能性がある。
• 実世界システムへのプライバシー保護型プロンプトの統合は、標準化されたベンチマークデータセットおよびプロダクション運用可能なオープンソースライブラリの欠如によって妨げられている。
• DPフォワードのようなプライバシー保護技術を視覚、音声、動画モデルへと拡張することは、有望ではあるが、未だ十分に調査されていない研究分野である。
• 真実性、安全性、耐性といったLLMの信頼性の広範な側面に与えるプライバシー保護型プロンプトの影響を評価する研究が著しく不足している。