[논문 리뷰] PrivacyMind: Large Language Models Can Be Contextual Privacy Protection Learners
이 논문은 개인신원정보(PII)를 보호하면서 도메인 특화 지식을 학습할 수 있도록 하는 새로운 피인자 조정 파라다임인 프라이버시 보호 언어 모델(PPLM)을 소개한다. 양성 및 부정성 예제를 활용한 지시 조정을 통해 모델이 민감한 정보를 유출하지 않도록 효과적으로 방지함으로써, 프라이버시 유출 점수를 33.8% 감소시켰으며, 지식 습득 능력에 영향을 주지 않으면서도 LLM이 프라이버시 보호 학습자로서의 능력을 갖추게 되었다.
The proliferation of Large Language Models (LLMs) has driven considerable interest in fine-tuning them with domain-specific data to create specialized language models. Nevertheless, such domain-specific fine-tuning data often contains contextually sensitive personally identifiable information (PII). Direct fine-tuning of LLMs on this data without privacy protection poses a risk of data leakage of sensitive PII during inference time. To address this challenge, we introduce Contextual Privacy Protection Language Models (PrivacyMind), a novel paradigm for fine-tuning LLMs that effectively injects domain-specific knowledge while safeguarding inference-time data privacy. Our work offers a theoretical analysis for model design and benchmarks various techniques such as corpus curation, penalty-based unlikelihood in training loss, instruction-based tuning, etc. Extensive experiments across diverse datasets and scenarios demonstrate the effectiveness of our approaches. In particular, instruction tuning with both positive and negative examples stands out as a promising method, effectively protecting private data while enhancing the model's knowledge. Our work underscores the potential for Large Language Models as robust contextual privacy protection learners. The complete code and data for the work can be found at https://github.com/Yijia-Xiao/PrivacyMind.
연구 동기 및 목표
- 민감한 개인신원정보(PII)를 포함한 도메인 특화 데이터에 대해 LLM을 피인자 조정할 때 프라이버시를 해치지 않도록 하는 도전에 대응한다.
- 기존의 PII 마스킹 또는 삭제 방법의 한계를 극복하여 정보 손실을 최소화하고 모델 성능 저하를 방지한다.
- LLM이 공개 가능한 지식과 기밀 정보를 구분할 수 있도록 하는 새로운 파라다임인 프라이버시 보호 언어 모델(PPLM)을 개발한다.
- 강화학습에서 인간 피드백을 통한 학습(RLHF)과 같은 비용이 많이 들거나 불안정한 방법에 의존하지 않고도 지식 주입과 프라이버시 보호를 동시에 달성한다.
- 실제 프라이버시 민감한 응용 분야에서 강력하고 프라이버시 인식한 피인자 조정 전략을 설계하기 위한 이론적 지침과 실증적 검증을 제공한다.
제안 방법
- LLM 학습 과정에 직접적으로 프라이버시 보호를 통합하는 새로운 피인자 조정 프레임워크인 PPLM을 제안한다.
- 모델이 언제 민감한 정보를 공개할지, 언제 숨길지를 가르치기 위해 양성 및 부정성 예제를 활용한 지시 기반 조정을 시행한다.
- 학습 중에 개인 정보 토큰을 생성하는 것을 막기 위해 페널티 기반의 비가능도 손실을 도입한다.
- 문맥적 단서를 바탕으로 민감한 콘텐츠를 식별하도록 도와주는 PII 문맥 분류기를 활용한다.
- 모델의 행동을 프라이버시 보존 가능한 생성 방향으로 다듬기 위해 직접 선호도 최적화(DPO)를 적용한다.
- 데이터 품질과 프라이버시 위험 간의 균형을 맞추기 위해 코퍼스 커리네이션을 수행하여 피인자 조정 중 민감한 정보 폭로를 최소화한다.
실험 결과
연구 질문
- RQ1LLM은 문맥상 공개 가능한 지식과 민감한 개인신원정보(PII)를 효과적으로 구분할 수 있는가?
- RQ2지식 습득이나 하류 작업 성능에 영향을 주지 않으면서도 LLM 피인자 조정에 프라이버시 보호를 통합할 수 있는가?
- RQ3지시 조정, 손실 페널티, 분류기 가이드와 같은 피인자 조정 전략 중에서 어떤 것이 PII 유출을 가장 효과적으로 줄이고 모델의 유용성을 유지하는가?
- RQ4양성 및 부정성 예제를 활용한 지시 조정이 기존의 데이터 정제나 RLHF에 비해 프라이버시-유용성 트레이드오���에서 더 나은 성능을 보일 수 있는가?
- RQ5동적 학습 과정이 ROUGE, BERTScore 및 프라이버시 유출 점수와 같은 메트릭을 통해 지식 주입과 프라이버시 보호의 균형 잡힌 공진화를 가능하게 하는가?
주요 결과
- 양성 및 부정성 예제를 활용한 지시 조정(IT$_{PN_2}$)이 가장 강력한 프라이버시 보호 성능을 보였으며, 원본 피인자 조정 모델 대비 wikidoc_patient_information 데이터셋에서 프라이버시 유출 점수를 33.8% 감소시켰다.
- IT$_{PN_2}$로 학습된 모델는 높은 지식 유지 능력을 유지하여 LLaMA2-13B 모델에서 ROUGE-L 점수 0.216을 기록했으며, 원본 피인자 조정 기준선(0.215)과 유사한 성능을 보였다.
- 학습 초기에 일시적인 상승을 보인 후 프라이버시 유출 점수가 시간이 지남에 따라 감소함을 확인하여, 특히 지시 조정 하에서 모델이 학습이 진행됨에 따라 PII 생성을 억제하는 법을 학습한 것으로 나타났다.
- 이론적 분석을 통해 제안된 방법, 특히 부정성 예제를 포함한 지시 조정이 지식 주입과 프라이버시 보호를 균형 있게 유지하는 안정적인 최적화 경로를 제공한다는 점을 확인했다.
- 데이터 제거나 대체 방법에 비해 지시 조정은 더 많은 유용한 정보를 유지하면서도 프라이버시 위험을 크게 줄여, 유용성 및 프라이버시 메트릭 모두에서 뛰어난 성능을 보였다.
- 지시 조정과 PII 문맥 분류기의 조합은 LLaMA2-13B 모델에서 프라이버시 유출 점수를 26.8% 감소시켜 DPO 및 페널티 기반 방법보다 뛰어난 성능을 보였다.
더 나은 연구,지금 바로 시작하세요
논문 읽기부터 검토까지, 연구 시간을 획기적으로 줄여보세요.
카드 등록 없음 · 무료 플랜 제공
이 리뷰는 AI가 만들고, 인간 에디터가 검토했습니다.