[논문 리뷰] Approximate Data Deletion from Machine Learning Models: Algorithms and Evaluations.

Zachary Izzo, Mary Anne Smart외 2명|arXiv (Cornell University)|2020. 02. 24.

Privacy-Preserving Technologies in Data참고 문헌 21인용 수 18

한 줄 요약

이 논문은 선형 회귀 모델에서 근사적 데이터 삭제를 위한 새로운 효율적인 알고리즘을 제안하며, 특징 차원 $d$ 에 대해 선형 시간 복잡도를 달성하여 이전의 초선형 방법에 비해 상당한 향상이 이루어졌다. 새로운 평가 테스트를 도입하여 전체 재학습 없이도 훈련 데이터를 제거할 때 속도와 정확도 측면에서 뛰어난 성능을 보였다.

ABSTRACT

Deleting data from a trained machine learning (ML) model is a critical task in many applications. For example, we may want to remove the influence of training points that might be out of date or outliers. Regulations such as EU's General Data Protection Regulation also stipulate that individuals can request to have their data deleted. The naive approach to data deletion is to retrain the ML model on the remaining data, but this is too time consuming. Moreover there is no known efficient algorithm that exactly deletes data from most ML models. In this work, we evaluate several approaches for approximate data deletion from trained models. For the case of linear regression, we propose a new method with linear dependence on the feature dimension $d$, a significant gain over all existing methods which all have superlinear time dependence on the dimension. We also provide a new test for evaluating data deletion from linear models.

연구 동기 및 목표

• 기계학습 모델에서 전체 재학습 없이도 훈련 데이터를 효율적으로 제거하는 문제를 해결하기 위해.
• 특히 고차원 환경에서 대부분의 기계학습 모델에서 정확한 데이터 삭제가 계산적으로 불가능한 문제를 해결하기 위해.
• 모델 성능을 유지하면서도 확장 가능하고 정확한 근사적 데이터 삭제 방법을 개발하기 위해.
• 선형 모델에서 데이터 삭제의 품질을 측정하기 위한 새로운 평가 테스트를 도입하기 위해.

제안 방법

• 특징 차원 $d$ 에 대해 선형 의존성을 가지는 선형 회귀에 대한 근사적 데이터 삭제를 위한 새로운 알고리즘을 제안하며, 이는 이전의 초선형 방법에 비해 상당한 향상이다.
• 행렬 역행렬 항등식과 저랭크 업데이트를 활용하여 데이터 제거 후 모델 파라미터를 효율적으로 조정한다.
• 선형 모델에서 데이터 삭제의 정확성과 품질을 평가하기 위한 새로운 검정 통계량을 도입한다.
• 분석적 근사와 수치 안정성 기법의 조합을 통해 다양한 데이터 분포에서 신뢰할 수 있는 성능을 보장한다.
• 삭제된 점의 영향에 기반한 구조적 접근을 통해 모델 파라미터를 재가중함으로써 재학습 오버헤드를 최소화한다.

실험 결과

연구 질문

• RQ1 특징 차원 $d$ 에 대해 선형 시간 복잡도를 가지는 선형 회귀에 대한 근사적 데이터 삭제 알고리즘을 설계할 수 있는가?
• RQ2 제안된 방법은 기존 방법들과 비교해 데이터 삭제의 속도와 정확도 측면에서 어떻게 다른가?
• RQ3 선형 모델에서 근사적 데이터 삭제의 품질을 평가하는 데 가장 효과적인 지표는 무엇인가?
• RQ4 제안된 평가 테스트는 잘못되거나 품질이 낮은 삭제를 신뢰성 있게 탐지할 수 있는가?
• RQ5 모델 크기와 데이터 차원이 증가함에 따라 이 방법은 어떻게 스케일링되는가?

주요 결과

• 제안된 방법은 특징 차원 $d$ 에 대해 선형 시간 복잡도를 달성하여 기존의 초선형 의존성과 비교해 상당한 향상이 이루어졌다.
• 특히 고차원 환경에서 기준 방법에 비해 상당히 빠른 삭제 시간을 보였다.
• 새로운 평가 테스트는 잘못되거나 최적화되지 않은 삭제를 효과적으로 식별하여 근사적 삭제의 신뢰성을 향상시켰다.
• 데이터 삭제 후에도 높은 모델 정확도를 유지하였으며, 예측 성능 저하가 최소한이었다.
• 실험 결과는 이 방법이 효율성과 데이터 삭제의 정밀도 측면에서 이전 방법들을 능가하는 것으로 나타났다.