[논문 리뷰] Privacy-preserving Active Learning on Sensitive Data for User Intent Classification

Oluwaseyi Feyisetan, Thomas M Drake외 2명|arXiv (Cornell University)|2019. 03. 26.

Privacy-Preserving Technologies in Data참고 문헌 29인용 수 7

한 줄 요약

이 논문은 커뮤니티 레이블링 과정에서 민감한 사용자 데이터를 보호하기 위해 차등적 비밀보장(DP)을 활성 학습과 융합한 프라이버시 보장 활성 학습 프레임워크를 제안한다. 통제된 샘플링과 k-익명성으로 DP를 적용함으로써, (ε, δ)-DP로 측정되는 정량적 프라이버시 보장을 달성하면서도 레이블링 예산을 줄이고 경쟁 가능한 모델 정확도를 유지하며, 프라이버시, 유용성, 비용 간의 조절 가능한 트레이드오프를 보여준다.

ABSTRACT

Active learning holds promise of significantly reducing data annotation costs while maintaining reasonable model performance. However, it requires sending data to annotators for labeling. This presents a possible privacy leak when the training set includes sensitive user data. In this paper, we describe an approach for carrying out privacy preserving active learning with quantifiable guarantees. We evaluate our approach by showing the tradeoff between privacy, utility and annotation budget on a binary classification task in a active learning setting.

연구 동기 및 목표

• 외부 레이블러에게 민감한 사용자 데이터를 전송할 때 발생하는 프라이버시 리스크를 해결하기 위해.
• 활동 학습 파이프라인의 데이터 레이블링 과정에서 프라이버시 보장을 정량화하고 강제하기 위해.
• 이元의 사용자 의도 분류 작업에서 (ε, δ)-차등적 비밀보장에 의해 측정된 프라이버시, 모델 유용성(정확도), 레이블링 예산 간의 트레이드오프를 평가하기 위해.
• 차등적 비밀보장이 활성 학습에서 텍스트 데이터에 효과적으로 적용될 수 있음을 보여주어 k-익명성의 한계를 극복하기 위해.
• 실제 NLP 응용 프로그램에 프라이버시 보장 활성 학습을 구현할 수 있는 프레임워크를 제공하여, 측정 가능한 프라이버시 및 성능 트레이드오프를 보장하기 위해.

제안 방법

• 비레이블링 데이터에 대해 (ε, δ)-차등적 비밀보장을 적용하여, 개별 데이터 포인트가 고유하게 재식별될 수 없도록 보장한다.
• 레이블링을 위해 데이터 포인트의 일부를 무작위로 선택하는 샘플링 메커니즘을 사용하며, 이는 재식별 위험을 줄인다.
• 유사한 쿼리를 그룹화하여 k-익명성을 강제함으로써, 각 쿼리가 배치에 최소 k번 이상 나타나도록 하여 빈도 분석에 의한 재식별을 방지한다.
• 활동 학습의 불확실성 기반 샘플링과 DP 제약 조건을 융합하여, 프라이버시를 유지하면서도 가장 정보가 풍부한 예제를 선택한다.
• 기존 문헌에서 제안된 DP 알고리즘을 활용하여 프라이버시 메커니즘을 구현하며, (ε, δ) 수준을 달성하기 위해 샘플링 비율 β와 익명성 요소 k를 조정한다.
• 이 방법은 이원 분류 기반 사용자 의도 분류 작업에서 평가되었으며, 다양한 (ε, δ) 및 k/β 설정에서 프라이버시, 정확도, 예산을 측정하였다.

실험 결과

연구 질문

• RQ1 커뮤니티 레이블링 과정에서 민감한 사용자 쿼리를 보호하기 위해 차등적 비밀보장이 텍스트 기반 활성 학습에 효과적으로 적용될 수 있는가?
• RQ2 민감한 데이터를 포함한 활성 학습에서 (ε, δ)로 측정된 프라이버시, 모델 유용성(정확도), 레이블링 예산 간의 트레이드오프는 어떠한가?
• RQ3 k-익명성과 샘플링 비율 β가 NLP 활성 학습에서 프라이버시-유용성 트레이드오프에 어떻게 영향을 미치는가?
• RQ4 제안된 방법이 k-익명성만으로는 충분한 프라이버시 보장을 제공하지 못하는 상황에서 더 강력한 프라이버시 보장을 달성하면서도 수용 가능한 모델 성능을 유지할 수 있는가?
• RQ5 작업의 복잡도가 NLP에서 활성 학습에 DP를 적용할 때 정확도 손실에 어떤 영향을 미치는가?

주요 결과

• 샘플링 비율 β와 익명화 요소 k를 조정함으로써 (ε, δ)-차등적 비밀보장 보장을 달성하며, 더 강력한 프라이버시(더 작은 ε, δ)를 위해서는 k를 높이고 β를 낮춰야 한다.
• δ = 1×10⁻⁶ 및 ε = 1.0일 때, β = 0.1 및 k = 20 조건에서 모델은 68.7%의 정확도를 달성하여 강력한 프라이버시-유용성 균형을 보였다.
• β를 0.9에서 0.1로 줄임으로써 프라이버시 보장이 향상되었지만 정확도는 약간 감소하여 명확한 프라이버시-비용 트레이드오프가 존재함을 시사한다.
• δ를 1×10⁻¹⁵로 감소시켰을 때, β = 0.1 및 k = 20 조건에서 정확도는 64.7%로 떨어졌으며, 더 강력한 프라이버시 제약 조건이 더 높은 유용성 비용을 수반함을 보여준다.
• k-익명성만을 사용하는 것보다 제안된 방법이 우수한 성능을 보였으며, k가 작거나 데이터가 매우 고유한 경우 k-익명성만으로는 충분한 프라이버시 보장을 제공하지 못함을 확인하였다.
• 이 프레임워크는 활성 학습에서 프라이버시를 정량화하고 제어할 수 있음을 보여주며, 측정 가능한 리스크 감소를 보장하는 민감한 NLP 응용 프로그램에의 구현 가능성을 입증한다.