[논문 리뷰] Faking feature importance: A cautionary tale on the use of differentially-private synthetic data

Oscar Giles, Kasra Hosseini외 14명|arXiv (Cornell University)|2022. 03. 02.

Privacy-Preserving Technologies in Data인용 수 4

한 줄 요약

이 논문은 다양한 데이터셋에서 기초적인 머신러닝 탐색을 위한 핵심 요소인 특성 중요도 순서를 정확히 유지할 수 있는가를 조사한다. PrivBayes와 다른 DP 방법을 사용하여, 중간에서 높은 비밀유지 수준(ε > 0.1)에서 합성 데이터가 진짜 특성 중요도를 잘 재현하지 못함을 발견하였으며, 특히 복잡한 실세계 환경에서는 유사도 점수가 낮고 변동성이 크다.

ABSTRACT

Synthetic datasets are often presented as a silver-bullet solution to the problem of privacy-preserving data publishing. However, for many applications, synthetic data has been shown to have limited utility when used to train predictive models. One promising potential application of these data is in the exploratory phase of the machine learning workflow, which involves understanding, engineering and selecting features. This phase often involves considerable time, and depends on the availability of data. There would be substantial value in synthetic data that permitted these steps to be carried out while, for example, data access was being negotiated, or with fewer information governance restrictions. This paper presents an empirical analysis of the agreement between the feature importance obtained from raw and from synthetic data, on a range of artificially generated and real-world datasets (where feature importance represents how useful each feature is when predicting a the outcome). We employ two differentially-private methods to produce synthetic data, and apply various utility measures to quantify the agreement in feature importance as this varies with the level of privacy. Our results indicate that synthetic data can sometimes preserve several representations of the ranking of feature importance in simple settings but their performance is not consistent and depends upon a number of factors. Particular caution should be exercised in more nuanced real-world settings, where synthetic data can lead to differences in ranked feature importance that could alter key modelling decisions. This work has important implications for developing synthetic versions of highly sensitive data sets in fields such as finance and healthcare.

연구 동기 및 목표

• 원본 데이터셋의 특성 중요도 상대 순서를 유지할 수 있는지 여부를 평가하는 것.
• 특성 공학 및 선택과 같은 초기 단계 머신러닝 워크플로우에서 합성 데이터의 유효성을 평가하는 것.
• 합성 데이터에서 특성 중요도 복제 정확도에 영향을 미치는 데이터셋 특성(예: 다중공선성, 특성 유형(범주형 대비 수치형), 계층적 구조 등)을 특정하는 것.
• 합성 데이터 성능을 단순 기준값과 비교하고, 비밀유지-유효성 트레이드오프가 신뢰성에 영향을 미치는지 평가하는 것.
• 비밀유지 민감한 도메인에서 탐색적 분석을 위해 합성 데이터를 안전하게 사용할 수 있는 시점과 방법에 대한 실용적 지침을 제공하는 것.

제안 방법

• PrivBayes와 다른 DP 방법을 사용하여 원본 데이터와 합성 데이터 간의 특성 중요도 유사도를 실증적으로 평가한다.
• 순서 상관관계(Spearman’s ρ)와 Kendall’s τ와 같은 다수의 유효성 지표를 사용하여 특성 중요도 순서의 일치 정도를 정량화한다.
• 구조와 특성 유형이 다양한 5개의 인위적 데이터셋과 4개의 실세계 데이터셋(Adult, German Credit, Bank Marketing, 그리고 의료 관련 데이터셋)을 대상으로 테스트한다.
• 차등적 비밀보장의 영향을 평가하기 위해 비밀유지 예산 ε를 다양한 값으로 변화시킨다.
• 독립적인 열 재샘플링과 같은 기준 비교를 통해 합성 데이터 성능의 하한선을 확보한다.
• 원본 데이터와 합성 데이터 양쪽에서 모델을 훈련시어 예측 성능(AUC)을 평가하여 유효성의 대리 지표로 사용한다.

실험 결과

연구 질문

• RQ1 차등적 비밀보장 합성 데이터가 원본 데이터와 비교해 특성 중요도 순서를 어느 정도 유지할 수 있는가?
• RQ2 비밀유지 예산 ε가 원본 데이터와 합성 데이터 간의 특성 중요도 순서 유사도에 어떤 영향을 미치는가?
• RQ3 다중공선성, 특성 유형(범주형 대비 수치형), 또는 계층적 구조와 같은 특정 데이터셋 특성이 특성 중요도 복제 정확도를 낮추는가?
• RQ4 특성 중요도 유지 측면에서 합성 데이터 성능은 단순 기준값(예: 독립적 열 재샘플링)과 비교해 어떻게 다른가?
• RQ5 어떤 상황에서 합성 데이터가 탐색적 머신러닝 작업에서 원본 데이터의 신뢰할 수 있는 대체자로 기능하는가?

주요 결과

• 중간에서 높은 비밀유지 수준(ε > 0.1)에서 합성 데이터는 자주 정확한 특성 중요도 순서를 유지하지 못하며, 유사도 점수가 낮고 변동성이 크다.
• 특성 중요도 순서의 평균 유사도 점수는 모든 데이터셋에서 일관되게 낮았으며, 특히 ε가 작을 경우 신뢰도가 낮음을 시사한다.
• 실세계 데이터셋에서 복잡한 구조를 지닌 경우, 합성 데이터 성능은 독립적 열 재샘플링과 같은 단순 기준값보다 열등한 편이었다.
• 다중공선성이 높거나 특성 중요도가 거의 균일한 데이터셋에서 특성 중요도의 정확도가 가장 크게 떨어졌다.
• 특성 수가 적고, 행 수가 많으며, 특성 중요도의 구분이 뚜렷한 데이터셋에서 합성 데이터가 더 잘 작동하여, 구조적 단순성이 복제에 도움이 된다는 것을 시사한다.
• 범주형 특성이 포함된 데이터셋에서는 수치형 특성이 포함된 데이터셋보다 특성 중요도가 더 정확하게 유지되었으며, 이는 현재 DP 합성 기법에 메서드 오차가 존재함을 시사한다.