[論文レビュー] You Are What You Write: Preserving Privacy in the Era of Large Language Models

Richard E. Plant, Mario Valerio Giuffrida+1 more|arXiv (Cornell University)|Apr 20, 2022

Privacy-Preserving Technologies in Data被引用数 8

ひとこと要約

この論文は、多言語モデルにおける事前学習表現からのデモグラフィック情報漏洩を分析することで、大規模言語モデル（LLMs）のプライバシーリスクを調査している。大きな、より複雑なモデルは、より多くの個人データを漏洩することが判明した。また、プライバシー保護技術の有効性を評価し、微分プライバシー（DP）は漏洩を低減するが、性能に悪影響を及えることが示された。一方、ハイブリッドおよびメトリック-DP手法は、プライバシーと性能のバランスをとる上で優れた妥協点を提供した。

ABSTRACT

Large scale adoption of large language models has introduced a new era of convenient knowledge transfer for a slew of natural language processing tasks. However, these models also run the risk of undermining user trust by exposing unwanted information about the data subjects, which may be extracted by a malicious party, e.g. through adversarial attacks. We present an empirical investigation into the extent of the personal information encoded into pre-trained representations by a range of popular models, and we show a positive correlation between the complexity of a model, the amount of data used in pre-training, and data leakage. In this paper, we present the first wide coverage evaluation and comparison of some of the most popular privacy-preserving algorithms, on a large, multi-lingual dataset on sentiment analysis annotated with demographic information (location, age and gender). The results show since larger and more complex models are more prone to leaking private information, use of privacy-preserving methods is highly desirable. We also find that highly privacy-preserving technologies like differential privacy (DP) can have serious model utility effects, which can be ameliorated using hybrid or metric-DP techniques.

研究の動機と目的

• 事前学習された言語モデルの表現を通じて、年齢、性別、場所といったデモグラフィック情報がどの程度漏洩しているかを評価すること。
• 特に微分プライバシー（DP）およびハイブリッド手法を含むプライバシー保護技術の有効性を、そのようなデータ漏洩を軽減する観点から評価すること。
• 多様な多言語NLPデータセットにおいて、モデルの性能とプライバシー保護のトレードオフを調査すること。
• モデルアーキテクチャおよび事前学習データサイズがLLMにおけるプライバシーリスクに与える影響を実証的に示すこと。
• 実世界のNLPアプリケーションにおいて、性能と保護の両立を図るプライバシー保護手法の選定を実務家に支援すること。

提案手法

• 年齢、性別、場所のデモグラフィック属性が付与された大規模な多言語感情分析データセットを用い、BERT、RoBERTa、GPT-2、および多言語バージョンを含む代表的な事前学習言語モデルを実証的に評価した。
• モデルの埋め込み表現に下流分類器を訓練し、年齢、性別、場所といったデモグラフィック属性を予測する。漏洩度は分類精度で測定した。
• 微分プライバシー（DP）およびメトリック-DP手法を用いてモデルをファインチューニングし、ノイズスケールとクリッピングしきい値を調整することで、プライバシーと性能のトレードオフを制御した。
• モデルに依存しないデータフィルタリングとDPを組み合わせたハイブリッドアプローチを用い、漏洩を低減しながらモデル性能を維持した。
• 英語、フランス語、ドイツ語、デンマーク語、ノルウェー語を含む17ヶ国語でモデルを評価し、多言語への一般化性を確認した。
• デモグラフィック属性の分類精度を用いてプライバシー漏洩を測定し、下流の感情分類F1スコアを用いてモデルの性能を評価した。

実験結果

リサーチクエスチョン

• RQ1 事前学習された言語モデルは、その隠れ表現を通じてどの程度、年齢、性別、場所といったデモグラフィック情報を漏洩しているか？
• RQ2 モデルの複雑さおよび事前学習データ量と、LLMにおけるプライバシー漏洩度の間にはどのような相関関係があるか？
• RQ3 微分プライバシー（DP）およびメトリック-DP手法は、モデルの性能を著しく低下させることなく、デモグラフィック情報漏洩をどの程度効果的に低減できるか？
• RQ4 ハイブリッドプライバシー保護手法は、純粋なDPまたはモデルに依存しない手法に比べ、より優れたプライバシーと性能のトレードオフを達成できるか？
• RQ5 多言語環境において、プライバシー保護手法の性能は、異なる言語およびデモグラフィックグループでどのように変化するか？

主な発見

• より大規模で複雑な言語モデルは、性別や場所の分類精度が一部のモデルで最大62％に達するなど、顕著に高いデモグラフィック情報漏洩を示した。
• モデルサイズ、事前学習データ量、プライバシー漏洩度の間には正の相関関係が確認され、スケーラビリティがプライバシーの犠牲を伴うことが示された。
• 微分プライバシー（DP）手法は漏洩を効果的に低減できるが、特にリソースが少ない言語ではモデルの性能が著しく低下する傾向があり、F1スコアが最大15％低下するケースもあった。
• データフィルタリングとDPを組み合わせたハイブリッド手法は、漏洩を40–60％低減しながら、元のモデル性能の85–90％を維持するという、より優れたプライバシーと性能のトレードオフを達成した。
• メトリック-DP手法は、言語の複雑さに応じてノイズスケーリングを適応的に調整することで、標準的なDPよりも性能をよりよく保つ可能性を示した。特に多言語モデルへの適用で顕著であった。
• 本研究は、公開済みで匿名化されたデータセットですら、再識別可能なデモグラフィック信号を含む可能性があることを確認した。これにより、NLPパイプラインにおける予防的プライバシー対策の必要性が強調された。