[논문 리뷰] Accuracy, Interpretability, and Differential Privacy via Explainable Boosting

Harsha Nori, Rich Caruana외 3명|arXiv (Cornell University)|2021. 06. 17.

Privacy-Preserving Technologies in Data인용 수 7

한 줄 요약

이 논문은 차별적 프라이버시를 적용한 Explainable Boosting Machines(EBMs)의 변종인 DP-EBM을 소개한다. DP-EBM은 표본 분류 및 회귀에서 최고 성능을 기록하면서도 정확한 전역 및 국소적 해석 가능성을 유지한다. GDP 프레임워크를 통해 차별적 프라이버시를 적용하고, 모델 편집을 위한 후처리 기법을 활용함으로써, 강력한 프라이버시 예산(예: ε=0.5)에서도 높은 성능을 유지하며, 추가 프라이버시 비용 없이 노이즈 유도 편향을 수정할 수 있다.

ABSTRACT

We show that adding differential privacy to Explainable Boosting Machines (EBMs), a recent method for training interpretable ML models, yields state-of-the-art accuracy while protecting privacy. Our experiments on multiple classification and regression datasets show that DP-EBM models suffer surprisingly little accuracy loss even with strong differential privacy guarantees. In addition to high accuracy, two other benefits of applying DP to EBMs are: a) trained models provide exact global and local interpretability, which is often important in settings where differential privacy is needed; and b) the models can be edited after training without loss of privacy to correct errors which DP noise may have introduced.

연구 동기 및 목표

• 의료 및 금융과 같은 고위험 기반의 머신러닝 응용 분야에서 프라이버시와 해석 가능성의 이중적 과제를 해결하기 위해.
• 예측 정확도를 유지하면서 일반화된 가산 모델(GAMs)을 위한 차별적 프라이버시 학습 알고리즘을 개발하기 위해.
• 추가 프라이버시 비용 없이 학습 후 모델 편집 및 제약 조건 강제 조건(예: 단조성)을 가능하게 하기 위해.
• 차별적 프라이버시가 정규화 요소로 작용하여 모델의 매끄러움과 해석 가능성을 향상시킬 수 있음을 입증하기 위해.

제안 방법

• GDP 프레임워크 하에서 가우시안 메커니즘을 사용하여 Explainable Boosting Machines(EBMs)를 차별적 프라이버시로 확장함으로써 엄밀한 프라이버시 회계를 수행한다.
• 각 특성의 형태 함수를 학습하는 동안 순환 부스팅 과정에서 기울기에 노이즈를 적용하여 프라이버시를 유지한다.
• 연속형 특성의 히스토그램 분할 기법을 활용하여 계산 비용을 줄이고 학습 효율성을 향상시킨다.
• 등온 회귀와 같은 후처리 기법을 사용하여 학습된 형태 함수에 단조성을 강제 조건함으로써 추가 프라이버시 비용 없이 구현한다.
• 학습 후 형태 함수를 직접 수정함으로써 모델 편집을 가능하게 하며, 이는 차별적 프라이버시의 후처리 성질에 따라 프라이버시를 유지한다.
• 기존 EBM 프레임워크와 원활하게 통합되어 scikit-learn 호환 파ip라인에서 표준 EBMs와 동일한 방식으로 사용할 수 있다.

실험 결과

연구 질문

• RQ1 EBM과 같은 해석 가능한 머신러닝 모델에 차별적 프라이버시를 효과적으로 적용할 수 있는가? 이 경우 정확도 저하가 심각한가?
• RQ2 차별적 프라이버시와 해석 가능성의 조합이 고위험 분야에서 실질적인 모델 수리 및 제약 조건 강제 조건을 가능하게 하는가?
• RQ3 차별적 프라이버시 노이즈가 EBM 학습 과정에서 얼마나 정규화 요소로 작용하여 모델의 매끄러움과 일반화 능력을 향상시키는가?
• RQ4 등온 회귀와 같은 후처리 기법을 사용하여 DP-EBM 형태 함수에 단조성을 강제 조건할 수 있는가? 이 경우 프라이버시 보장 조건을 위반하지는 않는가?
• RQ5 다양한 표본 데이터셋에서 다른 차별적 프라이버시 학습 방법과 비교했을 때 DP-EBM의 정확도는 어떠한가?

주요 결과

• ε=0.5일 때, DP-EBM은 벤치마크 분류 데이터셋에서 비프라이버시 EBMs 대비 최대 0.05 AUC 손실만을 보이며, 강력한 프라이버시-정확도 트레이드오프를 입증한다.
• 다양한 분류 및 회귀 과제에서 다른 차별적 프라이버시 학습 방법보다 뚜렷이 뛰어난 성능을 보이며, 최고 수준의 성능을 확립한다.
• ε=4에서 차별적 프라이버시를 추가하면 정규화 요소로 작용하여 더 매끄러운 형태 함수를 생성함으로써 모델 분산을 줄이고 해석 가능성을 향상시킨다.
• 형태 함수의 학습 후 편집(예: 연령 관련 위험 예측에서 비합리적인 피크 제거)을 통해 추가 프라이버시 비용 없이 노이즈 유도 편향을 수정할 수 있다.
• 등온 회귀를 사용하여 공개 정보만을 활용해 학습된 형태 함수에 단조성 제약 조건을 강제 조건할 수 있으며, 이는 프라이버시를 유지하면서 모델 신뢰도를 향상시킨다.
• 학습 후 모델 점검, 수정, 검증이 가능함으로써 도메인 전문가들이 고위험 환경에서 모델을 감시하고 검증할 수 있으며, 이는 프라이버시 기반 머신러닝 시스템에 대한 신뢰를 증가시킨다.