[논문 리뷰] SSSE: Efficiently Erasing Samples from Trained Machine Learning Models

Alexandra Peşte, Dan Alistarh외 1명|arXiv (Cornell University)|2021. 07. 08.

Adversarial Robustness in Machine Learning참고 문헌 39인용 수 5

한 줄 요약

SSSE는 기존에 훈련된 기계학습 모델에서 특정 훈련 샘플을 지우는 데 있어 새로운 효율적인 방법으로, 경험적 페시어 정보 매트릭스(FIM)를 사용해 폐쇄형 매개변수 업데이트를 계산함으로써, 재훈련에서 유사한 성능을 달성하면서도 원본 훈련 데이터에 대한 접근만 필요로 한다. 이는 이전 방법들에 비해 전체 FIM의 구조와 랭크-원 업데이트를 활용함으로써, 볼록 및 비볼록 모델 모두에 대해 실용적인 성능을 발휘한다.

ABSTRACT

The availability of large amounts of user-provided data has been key to the success of machine learning for many real-world tasks. Recently, an increasing awareness has emerged that users should be given more control about how their data is used. In particular, users should have the right to prohibit the use of their data for training machine learning systems, and to have it erased from already trained systems. While several sample erasure methods have been proposed, all of them have drawbacks which have prevented them from gaining widespread adoption. Most methods are either only applicable to very specific families of models, sacrifice too much of the original model's accuracy, or they have prohibitive memory or computational requirements. In this paper, we propose an efficient and effective algorithm, SSSE, for samples erasure, that is applicable to a wide class of machine learning models. From a second-order analysis of the model's loss landscape we derive a closed-form update step of the model parameters that only requires access to the data to be erased, not to the original training set. Experiments on three datasets, CelebFaces attributes (CelebA), Animals with Attributes 2 (AwA2) and CIFAR10, show that in certain cases SSSE can erase samples almost as well as the optimal, yet impractical, gold standard of training a new model from scratch with only the permitted data.

연구 동기 및 목표

• GDPR와 같은 규정에 따라 사용자가 훈련된 기계학습 모델에서 개인 데이터의 동의 철회 및 삭제를 요청하는 증가하는 필요를 해결하기 위해.
• 기존 샘플 지우기 방법의 한계를 극복하기 위해, 계산 비용이 너무 높거나 정확도가 떨어지거나 특정 모델 유형에만 국한되는 방법들이다.
• 재훈련 없이도 개별 또는 부분 훈련 샘플을 효과적이고 정확하게 제거할 수 있는 일반 목적의 효율적이고 정확한 방법을 개발하기 위해.
• 원본 전체 훈련 세트가 아닌 지워야 할 데이터에만 접근할 수 있는 결정론적이고 분석적으로 기반된 실용적인 솔루션을 제공하기 위해.

제안 방법

• SSSE는 원래 모델의 최적 매개변수 주변에서 손실 함수의 리브-케이-아웃 손실에 대한 일계 테일러 전개를 사용해 뉴턴 유형의 매개변수 업데이트를 수립한다.
• 헤시안을 경험적 페시어 정보 매트릭스(FIM)로 근사함으로써, 각 데이터 포인트당 하나의 기울기 계산과 랭크-원 업데이트를 통한 빠른 행렬 역행렬 계산을 통해 효율적인 계산이 가능해진다.
• 이 방법은 FIM의 전체 구조(대각선 요소 뿐 아니라 비대각선 요소 포함)를 사용하여, 이전 방법들인 스러빙과 비교해 교차 특징 간 의존성을 더 잘 반영함으로써 지우기 정확도를 향상시킨다.
• 지정된 훈련 샘플의 제거를 반영하는 단일 스텝 폐쇄형 매개변수 업데이트를 계산함으로써 반복 최적화의 필요성을 최소화한다.
• 이 방법은 볼록 및 비볼록 모델 모두에 적용 가능하며, 유일한 최적값이 존재하는 볼록 케이스에서는 더 강력한 이론적 보장이 가능하다.
• 하이퍼파ram터는 새로운 평가 지표인 이진/다중 분류에 적합한 혼동 거리(confusion distance)를 사용하여 선택되며, 표준 정확도를 넘어서 지우기 품질을 평가한다.

실험 결과

연구 질문

• RQ1 원본 훈련 데이터에 접근하지 않고도 재훈련에서 유사한 성능을 내는 단일 스텝 폐쇄형 매개변수 업데이트가 샘플 지우기 성능을 거의 동일하게 달성할 수 있는가?
• RQ2 이전 연구에서 대각선 요소만 사용하거나 노이즈를 추가하는 것과 비교해, 전체 FIM(비대각선 항목 포함)을 사용할 경우 성능은 어떻게 달라지는가?
• RQ3 SSSE 방법은 지워진 샘플 외의 데이터에 대해 모델 정확도를 얼마나 잘 유지하면서도 목표 샘플을 효과적으로 제거하는가?
• RQ4 지우는 샘플 수의 변화에 따라 이 방법의 민감도는 어떻게 되며, 이는 테일러 근사의 타당성에 영향을 미치는가?
• RQ5 제안된 평가 지표인 혼동 거리 및 그 비율이 하이퍼파ram터 선택을 효과적으로 이끌고 진정된 지우기 품질을 반영하는가?

주요 결과

• SSSE는 CelebA, AwA2, CIFAR10 데이터셋에서 재훈련에서의 황금 표준 성능과 거의 구분되지 않는 샘플 지우기 성능을 달성한다.
• 비대각선 항목까지 포함한 전체 FIM 사용은 대각선 요소만 사용하거나 노이즈를 추가하는 방법보다 지우기 정확도를 크게 향상시키며, 직접 비교를 통해 이를 입증했다.
• 이 방법은 기울기 상승 및 스러빙 업데이트를 능가하며, 특히 지워지지 않은 샘플의 정확도를 잘 유지하면서도 제거된 샘플을 효과적으로 잘못 분류한다.
• 혼동 거리 비율을 통해 선택된 최적의 하이퍼파ram터 ε는 테스트 및 제거된 데이터 분할 모두에서 재훈련된 모델 θ⋆₋ₛ와 유사한 행동을 보이는 SSSE 업데이트를 유도한다.
• 훈련 세트에서 제거된 샘플(D∖S)의 기울기를 업데이트에 포함시키면 성능이 약간 향상되며, 향후 개선 가능성을 시사한다.
• 이 방법은 강건하고 실용적이다: 원본 데이터셋이 아닌 지워야 할 데이터에만 접근하면 되며, 단일 결정론적 폐쇄형 업데이트로 작동한다.