[논문 리뷰] Evaluating Machine Unlearning via Epistemic Uncertainty

Alexander Becker, Thomas Liebig|arXiv (Cornell University)|2022. 08. 23.

Adversarial Robustness in Machine Learning인용 수 4

한 줄 요약

이 논문은 재학습이 필요 없이 민감한 데이터를 얼마나 잘 잊었는지 측정할 수 있는 새로운 평가 지표를 제안한다. 이 지표는 지식적 불확실성 기반으로 이론적으로 타당하며, 계산이 효율적이고, 재학습 또는 적대적 공격과의 비교에서 더 뛰어나며, 특히 재학습된 해답에 수렴하는 모델 업데이트에서 잊음과 관련된 불확실성 변화를 잘 포착한다.

ABSTRACT

There has been a growing interest in Machine Unlearning recently, primarily due to legal requirements such as the General Data Protection Regulation (GDPR) and the California Consumer Privacy Act. Thus, multiple approaches were presented to remove the influence of specific target data points from a trained model. However, when evaluating the success of unlearning, current approaches either use adversarial attacks or compare their results to the optimal solution, which usually incorporates retraining from scratch. We argue that both ways are insufficient in practice. In this work, we present an evaluation metric for Machine Unlearning algorithms based on epistemic uncertainty. This is the first definition of a general evaluation metric for Machine Unlearning to our best knowledge.

연구 동기 및 목표

• 기계적 미학습 알고리즘을 평가하기 위한 일반적이고 실용적이며 이론적으로 타당한 평가 지표의 부족을 해결하기 위해.
• 재학습에 의존하는 기존 평가 방법(실제로는 비현실적임)이나 적대적 공격(결론이 불확실하고 비용이 많이 드는)의 한계를 극복하기 위해.
• 잊음의 인지적 및 정보이론적 원리를 반영하는 지식적 불확실성에 기반한 지표를 개발하기 위해.
• 계산이 효율적인 상한선을 제공하여 더 큰 모델과 데이터셋으로의 확장성을 보장하기 위해.
• 다양한 미학습 접근법에 대해 지표를 실증적으로 검증하고, 매개변수 업데이트 방향에 대한 민감도를 평가하기 위해.

제안 방법

• 잊혀진 데이터 포인트에 대한 모델의 신뢰도 감소를 측정함으로써, 지식적 불확실성 기반의 효능 지표를 제안한다.
• 정보이론적 원리에서 유도하여, 불확실성 감소가 효과적인 잊음과 연결됨을 설명한다.
• 잊음 비율에 따라 분포 관계를 유지하는 지표의 이론적 상한선을 도입하여, 정밀도 손실 없이 빠른 계산을 가능하게 한다.
• 재학습, 파이셔 잊음, 암네시아크 미학습의 세 가지 미학습 방법에 지표를 적용하고 효능을 비교한다.
• 지표의 타당성을 검증하기 위해 소속성 인식 공격(MIAs)을 기준으로 사용한다.
• 효능과 MIAs 성공률 간의 관계를 분석하기 위해 로그-로그 플롯을 활용하여, 다양한 잊음 전략 하에서의 모델 행동을 분석한다.

실험 결과

연구 질문

• RQ1 지식적 불확실성은 기계적 미학습 성공 여부를 측정하는 신뢰할 수 있고 효율적인 대체 지표로 기능할 수 있는가?
• RQ2 제안된 지표는 실제 잊음의 정도를 캡처하기 위해 적대적 평가나 재학습 기반 기준과 비교해 어떻게 성능을 발휘하는가?
• RQ3 지표의 이론적 상한선은 다양한 잊음 수준에서 의미 있는 분포적 성질을 유지하는가?
• RQ4 다른 미학습 전략(예: 재학습 대비 초기 모델에 수렴하는 매개변수 수렴)은 지표의 행동에 어떻게 영향을 미치는가?
• RQ5 효능 지표와 소속성 인식 공격 성공률 사이에 일관된 관계가 존재하는가?

주요 결과

• 지식적 불확실성 기반의 효능 지표는 잊음 행동을 잘 포착하고, 소속성 인식 공격 성공률과 상관관계를 보이며, 실증적 관련성을 입증한다.
• 지표의 이론적 상한선은 잊음 비율에 따라 효능 값의 분포를 유지하여 정밀도 손실 없이 효율적인 계산을 가능하게 한다.
• 재학습과 파이셔 잊음은 잊음 비율 증가에 따라 효능이 감소함을 보이며, 재학습된 모델에 수렴하는 미학습이 성능 향상에 기여한다는 가설을 지지한다.
• 암네시아크 미학습은 두 가설을 모두 위반한다. 잊은 데이터 포인트가 많을수록 효능이 증가하는데, 이는 매개변수 업데이트가 재학습된 모델가 아니라 초기 모델 쪽으로 수렴하기 때문이다.
• 결과는 매개변수 업데이트 방향이 미학습 결과에 근본적인 영향을 미친다는 점을 드러내며, 평가 지표가 미학습 전략에 맞게 맞춤화되어야 한다는 점을 시사한다.
• 정확도 감소와 적대적 공격 실패가 성공적인 미학습의 필수 조건이지만 충분하지 않다는 점을 규명하며, 불확실성 기반 지표의 필요성을 강조한다.