[논문 리뷰] Bayesian Inference Forgetting

Shaopeng Fu, Fengxiang He외 2명|arXiv (Cornell University)|2021. 01. 16.

Gaussian Processes and Bayesian Inference참고 문헌 66인용 수 6

한 줄 요약

이 논문은 에너지 기반 영향 함수를 정의하여 재학습 없이도 효율적이고 증명 가능한 개별 데이터 영향 삭제가 가능한 베이지안 추론 삭제(BIF) 프레임워크를 제안한다. 이 방법은 변분 추론과 MCMC에 대해 $\varepsilon$-증명된 지식 제거를 보장하며, 실험 결과 재학습 대비 최대 67.9배 빠른 성능을 보이며 모델 일반화 능력을 유지한다.

ABSTRACT

The right to be forgotten has been legislated in many countries but the enforcement in machine learning would cause unbearable costs: companies may need to delete whole models learned from massive resources due to single individual requests. Existing works propose to remove the knowledge learned from the requested data via its influence function which is no longer naturally well-defined in Bayesian inference. This paper proposes a {\it Bayesian inference forgetting} (BIF) framework to realize the right to be forgotten in Bayesian inference. In the BIF framework, we develop forgetting algorithms for variational inference and Markov chain Monte Carlo. We show that our algorithms can provably remove the influence of single datums on the learned models. Theoretical analysis demonstrates that our algorithms have guaranteed generalizability. Experiments of Gaussian mixture models on the synthetic dataset and Bayesian neural networks on the real-world data verify the feasibility of our methods. The source code package is available at \url{https://github.com/fshp971/BIF}.

연구 동기 및 목표

• 기계 학습에서 '잊혀질 권리'를 이행하기 위한 높은 비용 문제를 해결하기 위해, 단일 데이터 포인트 삭제가 전체 모델 재학습을 필요로 하는 상황을 해결하고자 한다.
• 기본 손실 함수가 없는 베이지안 추론에서 기존 영향 함수 기반 삭제 방법의 한계를 극복하고자 하며, 이는 영향 함수의 정의가 불명확하기 때문이다.
• 모델 일반화 능력과 나머지 데이터에 대한 지식 유지와 함께, 일반적이고 증명 가능하며 효율적인 베이지안 모델을 위한 삭제 프레임워크를 개발하고자 한다.
• 에너지 기반 영향 함수를 사용하여 베이지안 추론에서 증명 가능한 지식 제거의 이론적 기반을 구축하고자 한다.

제안 방법

• 기본 손실 기반 영향 함수를 대체하기 위해, 개별 데이터 포인트가 사후 분포에 미치는 영향을 측정할 수 있는 에너지 기반 베이지안 추론 영향 함수(BIF)를 제안한다.
• 변분 추론에서 에너지 함수로 증명 하한 경계(ELBO)를 정의하여, 이론적 보장을 갖춘 변분 추론 삭제 알고리즘을 유도한다.
• MCMC 기반 추론을 위한 새로운 에너지 함수를 도입하여, 표준 및 스위치 기반 경량 경량 MCMC에 모두 적용 가능한 MCMC 삭제 알고리즘 설계를 가능하게 한다.
• 실제로 영향 함수를 효율적으로 계산하기 위해 재귀적 헤시안-벡터 곱 근사와 몬테카를로 샘플링을 활용한다.
• PAC-베이지안 이론을 적용하여, 삭제 이후 일반화 경계가 안정적으로 유지됨을 증명하며, 경계 차이에 대해 $O(1/n)$ 이내의 추가 감소만 발생함을 보였다.
• 모든 모델 재학습을 피하기 위해 사후 근사값을 스케일링하고 업데이트하는 방식으로 삭제를 구현한다.

실험 결과

연구 질문

• RQ1 표준 손실 함수가 존재하지 않는 베이지안 추론에서 영향 함수를 엄밀하게 정의할 수 있는가?
• RQ2 재학습 없이도 베이지안 모델에서 개별 데이터 포인트의 지식 제거를 증명 가능하고 인증 가능한 방식으로 달성할 수 있는가?
• RQ3 삭제 과정이 나머지 데이터에 대한 모델 일반화 성능을 유지하는가?
• RQ4 제안된 방법이 변분 추론과 MCMC 추론 모두에 효율적으로 적용될 수 있는가?
• RQ5 실제로 재학습 대비 삭제 효율성은 어떻게 비교되는가?

주요 결과

• BIF 프레임워크는 변분 추론과 MCMC 모두에 대해 $\varepsilon$-증명된 지식 제거를 달성하며, 미약한 매끄럽기 및 볼록성 가정 하에 이론적 보장을 갖는다.
• 삭제 이후에도 베이지안 모델의 일반화 경계는 동일한 순서 $O(\sqrt{\log n / n})$를 유지하며, 경계 차이에 대해 $O(1/n)$ 이내의 추가 감소만 발생한다.
• 가우시안 혼합 모델과 베이지안 신경망에 대한 실험 결과, 요청된 데이터의 지식을 효과적으로 제거하면서도 나머지 데이터 및 테스트 데이터에 대한 분류 정확도를 유지함을 확인했다.
• 재학습에서 완전히 다시 시작하는 것보다 삭제 단계가 훨씬 빠르며, 변분 추론의 경우 최대 67.9배, BNNs의 SGLD/SGHMC의 경우 약 9.8배의 가속 비율을 기록했다.
• 영향 함수 근사 오차는 $O(1/n^2)$ 이내로 제한되며, 이는 큰 $n$ 에서는 무시할 수 있을 정도로 작아, 일차 근사의 정확도가 검증됨을 입증한다.
• 다양한 추론 알고리즘과 데이터셋, 실제 베이지안 신경망을 포함한 다양한 환경에서 이 방법은 강건하며, 여러 랜덤 시드에 걸쳐 일관된 성능을 보였다.