[論文レビュー] PrivacyMind: Large Language Models Can Be Contextual Privacy Protection Learners

Yijia Xiao, Yiqiao Jin+11 more|arXiv (Cornell University)|Oct 3, 2023

Privacy-Preserving Technologies in DataComputer Science被引用数 3

ひとこと要約

本稿では、個人を特定できる情報（PII）を保護しながらドメイン固有の知識を学習できる、Privacy Protection Language Models（PPLM）と呼ばれる新しいファインチューニングパラダイムを紹介する。指示微調整を、肯定例と否定例の両方を用いて実施することで、プライバシー漏洩を33.8%低減する効果が示され、知識習得に悪影響を及げない。これにより、大規模言語モデル（LLM）がプライバシー保護学習者としての能力を有することが確立された。

ABSTRACT

The proliferation of Large Language Models (LLMs) has driven considerable interest in fine-tuning them with domain-specific data to create specialized language models. Nevertheless, such domain-specific fine-tuning data often contains contextually sensitive personally identifiable information (PII). Direct fine-tuning of LLMs on this data without privacy protection poses a risk of data leakage of sensitive PII during inference time. To address this challenge, we introduce Contextual Privacy Protection Language Models (PrivacyMind), a novel paradigm for fine-tuning LLMs that effectively injects domain-specific knowledge while safeguarding inference-time data privacy. Our work offers a theoretical analysis for model design and benchmarks various techniques such as corpus curation, penalty-based unlikelihood in training loss, instruction-based tuning, etc. Extensive experiments across diverse datasets and scenarios demonstrate the effectiveness of our approaches. In particular, instruction tuning with both positive and negative examples stands out as a promising method, effectively protecting private data while enhancing the model's knowledge. Our work underscores the potential for Large Language Models as robust contextual privacy protection learners. The complete code and data for the work can be found at https://github.com/Yijia-Xiao/PrivacyMind.

研究の動機と目的

• ドメイン固有のデータに含まれる機微な個人を特定できる情報（PII）を含む状況下で、大規模言語モデル（LLM）をファインチューニングする際のプライバシーを損なわない挑戦に応える。
• PIIのマスクや削除といった従来の手法に起因する情報損失やモデル性能の低下を克服する。
• LLMが公開可能な知識と機密情報の区別を可能にする、新たなパラダイム「Privacy Protection Language Models（PPLM）」を構築する。
• 強化学習による人間からのフィードバック（RLHF）のような高コストまたは不安定な手法に依存せずに、同時に知識注入とプライバシー保護を達成する。
• 実世界のプライバシーに配慮した応用分野における、強固でプライバシーに配慮したファインチューニング戦略の設計に、理論的指針と実証的検証を提供する。

提案手法

• 大規模言語モデルの学習プロセスに直接プライバシー保護を統合する、PPLMと呼ばれる新しいファインチューニングフレームワークを提案する。
• 生成する際に機微な情報を公開すべきか、隠すべきかを教えるために、肯定例と否定例の両方を用いた指示ベースの微調整を採用する。
• 訓練中にプライベートなトークンを生成するのを妨げるために、ペナルティに基づく非類似損失を導入する。
• 文脈的ヒントに基づいて機微なコンテンツを特定するため、PII文脈分類器を活用する。
• 直接的好み最適化（DPO）を用いて、プライバシー保護に配慮した生成行動をモデルが最適化するように調整する。
• コーパスのキュレーションを実施し、データ品質とプライバシーリスクのバランスを取ることで、ファインチューニング中の機微情報の露出を最小限に抑える。

Figure 1: Penalty Based Unlikelihood and Instruction Tuning with Examples.

実験結果

リサーチクエスチョン

• RQ1 大規模言語モデルは、文脈において公開可能な知識と機微な個人を特定できる情報（PII）を効果的に区別できるか？
• RQ2 知識習得や下流タスクの性能を低下させることなく、LLMのファインチューニングにプライバシー保護を統合する方法は何か？
• RQ3 指示微調整、損失ペナルティ、分類器ガイダンスといったファインチューニング戦略の中で、どれがPII漏洩を最も効果的に低減しつつモデルの有用性を維持するか？
• RQ4 肯定例と否定例を用いた指示微調整は、従来のデータ洗浄やRLHFに比べて、プライバシーと有用性のトレードオフにおいて優れているとまでは言えるか？
• RQ5 ROUGE、BERTScore、およびプライバシー漏洩スコアといった指標によって示されるように、動的訓練プロセスが知識注入とプライバシー保護のバランスの取れた共進化を可能にしているとまでは言えるか？

主な発見

• 肯定例と否定例を用いた指示微調整（IT$_{PN_2}$）が、最も強力なプライバシー保護を達成し、vanillaファインチューニングモデルと比較して、wikidoc_patient_informationデータセットでプライバシー漏洩スコアを33.8%低減した。
• IT$_{PN_2}$で訓練されたモデルは高い知識保持を維持し、LLaMA2-13BモデルではROUGE-Lスコアが0.216を達成し、vanillaファインチューニングベースラインの0.215と同等の水準を示した。
• 訓練時間の経過に伴い、初期の上昇を経てプライバシー漏洩スコアが低下した。これは、訓練が進むにつれてモデルがPIIの生成を抑制するよう学習したことを示しており、特に指示微調整下で顕著であった。
• 理論的分析により、とくに否定例を用いた指示微調整が、知識注入とプライバシー保護の両者を安定的にバランスさせる最適化経路を形成することが確認された。
• データ削除や置換と比較して、指示微調整は有用な情報をより多く保持しつつ、顕著にプライバシーリスクを低減した。これは、有用性とプライバシーの両方の指標で優れた性能を示した。
• 指示微調整とPII文脈分類器の組み合わせにより、LLaMA2-13Bモデルでプライバシー漏洩スコアが26.8%低減し、DPOやペナルティベース手法を上回る性能を発揮した。

(a) ROUGE/BERTScore Curve