[논문 리뷰] On Second-Order Group Influence Functions for Black-Box Predictions

Samyadeep Basu, Xuchen You외 1명|arXiv (Cornell University)|2019. 11. 01.

Machine Learning and Data Classification참고 문헌 31인용 수 10

한 줄 요약

이 논문은 블랙박스 기계학습 모델에서 학습 샘플 그룹의 影響 추정 정확도를 향상시키기 위해 2차 영향 함수를 제안한다. 헤시안 기반 보정을 통해 그룹 구성원 간의 상호의존성을 포착함으로써, 실제 영향과의 상관관계가 크게 향상된다. 특히 MNIST 로지스틱 회귀에서 학습 데이터의 50%를 제거했을 때 기존 1차 근사보다 55퍼센트 이상 향상된 성능을 기록하며, 크거나 상관관계가 높은 학습 그룹의 경우 1차 근사보다 뛰어난 성능을 보인다.

ABSTRACT

With the rapid adoption of machine learning systems in sensitive applications, there is an increasing need to make black-box models explainable. Often we want to identify an influential group of training samples in a particular test prediction for a given machine learning model. Existing influence functions tackle this problem by using first-order approximations of the effect of removing a sample from the training set on model parameters. To compute the influence of a group of training samples (rather than an individual point) in model predictions, the change in optimal model parameters after removing that group from the training set can be large. Thus, in such cases, the first-order approximation can be loose. In this paper, we address this issue and propose second-order influence functions for identifying influential groups in test-time predictions. For linear models, across different sizes and types of groups, we show that using the proposed second-order influence function improves the correlation between the computed influence values and the ground truth ones. We also show that second-order influence functions could be used with optimization techniques to improve the selection of the most influential group for a test-sample.

연구 동기 및 목표

• 크거나 상관관계가 높은 학습 샘플 그룹이 모델 예측에 미치는 영향을 추정하는 데 있어 1차 영향 함수의 한계를 해결하기 위해.
• 모델 파라미터 변화가 크기 때문에 그룹 구성원 간 상호의존성을 포착하는 2차 근사법을 개발하기 위해.
• 재학습 없이도 주어진 테스트 예측에 대해 가장 영향력 있는 학습 그룹을 효율적으로 식별하기 위해.
• 선형 모델과 딥 네URAL 네트워크 모두에서 2차 영향 함수의 효과성을 평가하기 위해.
• 민감한 응용 분야에서 설명 가능성 향상을 위해 최적화 기반 그룹 선택을 통해 실용적 유용성을 입증하기 위해.

제안 방법

• 최적 모델 파rameter에서의 헤시안 행렬과 기울기 벡터를 기반으로 보정 항을 추가한 2차 영향 함수를 제안한다.
• 2차 근사를 첫 번째 영향의 합에 더해, 그룹 내 개별 샘플의 기울기와 헤시안을 포함한 상호의존성 항으로 유도한다.
• 특히 비볼록 설정(예: 딥 네URAL 네트워크)에서의 계산 안정성을 확보하기 위해 정규화된 헤시안(H + λI)을 사용한다.
• 가장 영향력 있는 학습 샘플 그룹을 선택하기 위한 최적화 문제를 해결하기 위해 L1 리아프팅을 통한 투영 기반 기울기 강하법을 적용한다.
• 일반화성과 강건성을 평가하기 위해 선형 모델(예: MNIST에서의 로지스틱 회귀)과 딥 피드포워드 네트워크 모두에 적용한다.
• 실제 재학습을 통한 진짜 영향과의 비교를 통해 성능을 검증한다.

실험 결과

연구 질문

• RQ1 그룹 크기나 파라미터 이동이 클 경우, 2차 영향 함수가 1차 근사보다 진짜 영향을 더 잘 추정할 수 있는가?
• RQ2 그룹 구성원 간의 상호의존성은 모델 행동에 어떤 영향을 미치며, 헤시안 기반 보정을 통해 효과적으로 포착될 수 있는가?
• RQ3 2차 영향 함수는 1차 탐욕적 선택에 비해 가장 영향력 있는 그룹 선택에 얼마나 향상되는가?
• RQ4 헤시안 가정이 성립하지 않을 수 있는 비선형 모델(예: 딥 네URAL 네트워크)에서 1차 및 2차 영향 함수는 어떻게 성능을 보이는가?
• RQ5 2차 영향 함수는 주어진 테스트 예측에 대해 가장 영향력 있는 학습 그룹을 식별하기 위한 최적화 파이프라인에서 효과적으로 사용될 수 있는가?

주요 결과

• MNIST에서의 로지스틱 회귀에서, 학습 데이터의 50퍼센트를 제거했을 때 2차 영향 함수는 1차 근사보다 진짜 영향과의 상관관계를 55퍼센트 이상 향상시켰다.
• 2차 영향 함수는 그룹 구성원 간의 상호의존성을 포착하여, 파라미터 이동이 클 경우 더 정확한 영향 추정이 가능하다.
• 딥 네URAL 네트워크에서는 1차 및 2차 영향 함수 모두 진짜 영향과 유의미한 상관관계를 보이지 않았지만, 2차 방법이 다양한 그룹 크기에서 약간 더 높은 상관관계를 기록했다.
• 2차 영향 함수 기반 최적화를 통해 탐욕적 1차 선택이나 무작위 그룹에 비해 훨씬 더 높은 영향력을 가진 그룹을 성공적으로 선별했으며, 특히 큰 그룹 크기에서 두드러진 성능 향상을 보였다.
• 기울기와 헤시안-벡터 곱에 의존함으로써, 큰 모델에서도 계산이 효율적이고 확장 가능하다.
• 특히 유사한 특성을 가진 학습 그룹(예: 인구 통계적 하위군)을 재학습 없이도 효과적으로 식별하는 데 뛰어나다.