[논문 리뷰] Decision Tree Classification with Differential Privacy: A Survey

Sam Fletcher, Md Zahidul Islam|arXiv (Cornell University)|2016. 11. 07.

Privacy-Preserving Technologies in Data참고 문헌 74인용 수 21

한 줄 요약

이 종합적 서베이는 의사결정나무 분류에서의 차별적 비밀유지에 대해 포괄적인 분석을 제공하며, 분할 기준, 정규화, 앙상블 방법과 같은 핵심 구성 요소와의 상호작용을 검토한다. 비밀유지 메커니즘이 모델 유틸리티와의 주요 트레이드오프를 규명하고, 강력한 비밀유지 보장을 유지하면서 정확도를 최적화하는 전략을 강조한다.

ABSTRACT

Data mining information about people is becoming increasingly important in the data-driven society of the 21st century. Unfortunately, sometimes there are real-world considerations that conflict with the goals of data mining; sometimes the privacy of the people being data mined needs to be considered. This necessitates that the output of data mining algorithms be modified to preserve privacy while simultaneously not ruining the predictive power of the outputted model. Differential privacy is a strong, enforceable definition of privacy that can be used in data mining algorithms, guaranteeing that nothing will be learned about the people in the data that could not already be discovered without their participation. In this survey, we focus on one particular data mining algorithm -- decision trees -- and how differential privacy interacts with each of the components that constitute decision tree algorithms. We analyze both greedy and random decision trees, and the conflicts that arise when trying to balance privacy requirements with the accuracy of the model.

연구 동기 및 목표

• 차별적 비밀유지를 의사결정나무 분류 알고리즘에 통합하는 데 분석하는 것.
• 비밀유지 보호와 예측 정확도의 균형에 영향을 주는 설계 선택 사항을 규명하고 평가하는 것.
• 차별적 비밀유지가 의사결정나무 구축의 각 단계—분할, 정규화, 앙상블 학습—에 미치는 영향을 검토하는 것.
• 비밀유지 예산 사용, 쿼리 민감도, 모델 성능 측면에서 기존 접근법을 비교하는 것.
• 비균형 비밀유지 예산 할당 및 히우리스틱 쿼리 감소와 같은 열린 과제를 탐색하는 것.

제안 방법

• 분할 기준, 정규화, 레이블 쿼리 등의 의사결정나무 구성 요소를 차별적 비밀유지에 대한 민감도에 따라 분류하는 것.
• 쿼리 민감도가 노이즈 추가에 미치는 영향을 분석하며, 특히 잎 노드에서 '클래스 수'와 '다数 클래스' 쿼리 간의 비교를 수행하는 것.
• 의사결정나무 학습에서 차별적 비밀유지를 보장하기 위해 출력 또는 목적 함수 편향을 적용하는 기존 알고리즘을 조사하는 것.
• 랜덤 포레스트가 차별적 비밀유지 환경에서 어떻게 사용되는지 평가하며, 트리 수(τ)와 유틸리티에 대한 기여도에 초점을 맞추는 것.
• 쿼리 수(g − h)를 줄이기 위한 히우리스틱 전략을 제안하여, 쿼리당 유효 비밀유지 예산을 증가시키는 것.
• 쿼리의 중요성과 민감도에 따라 비균형 비밀유지 예산 할당 가능성을 조사하는 것.

실험 결과

연구 질문

• RQ1 예를 들어 분할, 정규화, 레이블링과 같은 의사결정나무 구축의 다양한 구성 요소가 차별적 비밀유지 하에서 민감도와 노이즈 요구 조건에 어떻게 영향을 미치는가?
• RQ2 차별적 비밀유지 랜덤 포레스트에서 최적의 트리 수(τ)는 무엇이며, 이는 모델 정확도에 어떻게 영향을 미치는가?
• RQ3 쿼리 감소 히우리스틱은 비밀유지 보장을 훼손하지 않으면서 유틸리티를 얼마나 향상시킬 수 있는가?
• RQ4 차별적 비밀유지 정의를 완화하면 모델 유틸리티에 상당한 향상이 이루어지며, 이러한 트레이드오프는 실세계 응용에 있어 수용 가능할까?
• RQ5 의사결정나무 학습에서 민감도와 중요도가 다른 쿼리들 사이에 비밀유지 예산을 어떻게 할당해야 하는가?

주요 결과

• 예를 들어 '다수 클래스'를 묻는 것과 '클래스 수'를 묻는 것 간의 쿼리 선택은 노이즈를 극적으로 감소시켜, 비밀유지 비용을 최소화하면서도 모델 정확도를 향상시킬 수 있다.
• 실험적 증거는 랜덤 포레스트에서 100개의 트리가 높은 정확도를 위해 바람직하다고 시사하며, 이는 이전의 주장과 모순된다. 즉, τ = 10으로도 충분하다는 주장이다.
• 히우리스틱 쿼리 감소는 중복되거나 추론 가능한 쿼리를 제거함으로써 쿼리당 유효 비밀유지 예산을 증가시켜, 위험을 증가시키지 않으면서 유틸리티를 향상시킬 수 있다.
• 비균형 비밀유지 예산 할당은 일부 쿼리가 다른 쿼리보다 더 민감하거나 핵심적이라는 점을 고려할 때 성능 향상을 가져올 수 있으나, 아직 연구가 진행 중인 분야이다.
• Rana 등(2016)이 탐색한 바와 같이 차별적 비밀유지 정의를 완화하면 상당한 유틸리티 향상이 가능하지만, 이러한 접근법은 표준 정의로 대체되기 전에 추가 검증이 필요하다.
• 문헌은 일관되게 비밀유지와 유틸리티 사이의 트레이드오프를 보여주며, 모든 데이터 쿼리가 비밀유지 비용을 수반하며 이는 모델 성능와 균형을 맞춰야 한다고 강조한다.