[논문 리뷰] Decision Tree Classification on Outsourced Data

Koray Mancuhan, Chris Clifton|arXiv (Cornell University)|2016. 10. 18.

Privacy-Preserving Technologies in Data참고 문헌 18인용 수 3

한 줄 요약

이 논문은 l-다양성 해체 모델 하에서 외주된 데이터를 대상으로 협업형 결합 트리 학습 방법(cdtl)을 제안한다. 여기서 클라우드 서버가 대부분의 학습을 수행하고, 클라이언트는 정확도를 향상시키기 위해 경량의 보완 조치를 적용한다. 이 방법은 비공개 결정 트리 성능에 근접하면서도 클라이언트 측의 계산 및 메모리 사용을 크게 줄인다.

ABSTRACT

This paper proposes a client-server decision tree learning method for outsourced private data. The privacy model is anatomization/fragmentation: the server sees data values, but the link between sensitive and identifying information is encrypted with a key known only to clients. Clients have limited processing and storage capability. Both sensitive and identifying information thus are stored on the server. The approach presented also retains most processing at the server, and client-side processing is amortized over predictions made by the clients. Experiments on various datasets show that the method produces decision trees approaching the accuracy of a non-private decision tree, while substantially reducing the client's computing resource requirements.

연구 동기 및 목표

• 민감하고 식별 가능한 속성이 분할되고 암호화된 l-다양성 외주 데이터에서 정확한 결정 트리 학습을 가능하게 하기 위해.
• 클라우드 기반 데이터 외주 모델에서 클라이언트 측의 계산 및 스토리지 오버헤드를 최소화하기 위해.
• 클라이언트와 클라우드 서버 간의 협업 학습이 비공개 모델에 비해 거의 동일한 정확도를 갖는 결정 트리를 생성할 수 있는지 평가하기 위해.
• 개인정보 보호 환경에서 클라이언트 자원 절감과 모델 정확도 간의 트레이드오프를 평가하기 위해.

제안 방법

• 데이터는 식별자 테이블(준식별자)과 민감한 속성 테이블으로 분할되며, 연결 키가 암호화되어 연결을 방지한다.
• 클라우드 데이터베이스 서버(CDBS)는 익명화된 l-다양성 데이터셋을 사용하여 분할된 데이터에서 기본 결정 트리(BDT)를 학습한다.
• 클라이언트는 BDT의 가장 큰 리프를 시작점으로 받아들여 현장에서 로컬 데이터를 사용해 즉시 보완한다. 이로써 클라이언트의 계산을 최소화한다.
• 클라이언트 측 보완은 BDT의 가장 큰 리프에서 하위 트리를 재학습하고, 과적합을 방지하기 위해 가지치기를 적용한다.
• 실행 시간 및 메모리 절감은 비율을 통해 측정된다: ets = cdtl_time / cnl_time 및 ms = cdtl_memory / cnl_memory이며, 여기서 cnl은 비공개 기준 모델이다.
• 실험은 일致한 가지치기 세트를 사용하여 10겹 교차검증을 실시하여 cdtl, cdbsl(클라우드 전용), cnl(비공개) 모델 간의 공정한 비교를 수행한다.

실험 결과

연구 질문

• RQ1 협업 클라이언트-서버 모델을 사용하여 외주된 l-다양성 데이터에서 정확한 결정 트리를 학습할 수 있는가?
• RQ2 높은 예측 정확도를 유지하면서 클라이언트 측의 계산 및 메모리 사용을 얼마나 줄일 수 있는가?
• RQ3 다양한 데이터셋에서 협업 모델(cdtl)의 정확도가 비공개 모델 및 클라우드 전용 모델에 비해 어떻게 비교되는가?
• RQ4 과적합 측면에서 볼 때, 클라이언트 자원 절감과 모델 복잡성 간의 트레이드오프는 어떠한가?

주요 결과

• cdtl 모델은 비공개 기준 모델(cnl)에 근접한 예측 정확도를 확보하며, 데이터셋 간 평균 정확도가 2-5% 이내로 일관되게 유지된다.
• 실행 시간 절감(ets)과 메모리 절감(ms)은 CDBS에서 학습된 기본 결정 트리(BDT)가 복잡할수록 최대가 되며, 이는 클라이언트 측 효율성이 높음을 시사한다.
• 클라우드의 기본 트리만 사용하는 cdbsl 모델은 가장 낮은 정확도를 보이며, 성능 향상을 위해 클라이언트 측 보완이 필수적임을 확인한다.
• BDT 리프 크기가 너무 작을 경우(cdtl에서 메모리 절감이 높을 경우) 과적합이 발생하며, 특히 Adult 데이터셋에서 모델 복잡성으로 인해 정확도가 떨어진다.
• 이 방법은 클라이언트 측 학습 및 추론 비용을 크게 줄이며, 유리한 경우 메모리 및 시간 절감 비율(ets 및 ms)이 0에 가까워진다.
• 과적합을 완화하기 위해 BDT 리프 크기의 메모리 절감 임계값을 제안하지만, 최적 값은 데이터셋에 따라 달라지며 일반적으로 정의하기 어렵다.