[논문 리뷰] If Influence Functions are the Answer, Then What is the Question?

Juhan Bae, Nathan Ng외 3명|arXiv (Cornell University)|2022. 09. 12.

Neural Networks and Applications인용 수 12

한 줄 요약

이 논문은 신경망에서 영향 함수가 모델의 수렴 불량, 웜스타트 효과, 암묵적 정규화로 인해 떠나는 한 개의 데이터 포인트(LOO) 재학습을 잘 근사하지 못함을 밝히지만, 오히려 새로운 목적 함수인 프락시멀 브레그만 반응 함수(PBRF)와 매우 밀접하게 일치함을 보여준다. PBRF는 원래 영향 함수의 목적—모델 일관성을 유지하면서 데이터 포인트 제거의 영향을 측정하는 것—을 더 잘 반영하므로, LOO 재학습과의 불일치에도 불구하고 영향 함수는 여전히 실용적으로 매우 유용하다.

ABSTRACT

Influence functions efficiently estimate the effect of removing a single training data point on a model's learned parameters. While influence estimates align well with leave-one-out retraining for linear models, recent works have shown this alignment is often poor in neural networks. In this work, we investigate the specific factors that cause this discrepancy by decomposing it into five separate terms. We study the contributions of each term on a variety of architectures and datasets and how they vary with factors such as network width and training time. While practical influence function estimates may be a poor match to leave-one-out retraining for nonlinear networks, we show they are often a good approximation to a different object we term the proximal Bregman response function (PBRF). Since the PBRF can still be used to answer many of the questions motivating influence functions, such as identifying influential or mislabeled examples, our results suggest that current algorithms for influence function estimation give more informative results than previous error analyses would suggest.

연구 동기 및 목표

• 신경망에서 영향 함수가 선형 모델에서는 성공했음에도 불구하고 떠나는 한 개의 데이터 포인트(LOO) 재학습을 잘 근사하지 못하는 이유를 진단하는 것.
• 영향 함수와 LOO 재학습 간의 격리 원인을 다섯 가지 구성요소로 분해하는 것: (1) 콜드스타트 대 웜스타트 반응, (2) 근접성 정규화, (3) 수렴하지 않은 파라미터, (4) 손실의 선형화, (5) 선형 시스템의 근사 해법.
• 각 구성요소가 네트워크 아키텍처, 데이터셋, 그리고 넓이, 깊이, 가중치 감쇠, 학습 시간 등의 학습 조건에 따라 격리에 기여하는 방식을 평가하는 것.
• 영향 함수의 진정한 목적을 더 잘 반영하는 새로운 목표로 프락시멀 브레그만 반응 함수(PBRF)를 제안하는 것.
• 영향 함수가 PBRF와 일치함을 보여주므로, LOO 재학습과의 불일치에도 불구하고 실용적 응용 분야(예: 잘못 레이블링된 예제 탐지)에서 여전히 효과적일 수 있음을 보여주는 것.

제안 방법

• 영향 함수와 LOO 재학습 간의 격리를 다섯 가지 구성요소로 분해하는 것: (1) 콜드스타트 대 웜스타트 반응, (2) 암묵적 근접성 정규화자, (3) 수렴하지 않은 파라미터, (4) 손실의 선형화, (5) 선형 시스템의 근사 해법.
• 원래 모델에서 기능 공간과 가중치 공간의 이격을 모두 처벌하는 새로운 목표로 프락시멀 브레그만 반응 함수(PBRF)를 정의하여, 영향 함수의 의도를 LOO 재학습보다 더 정확히 반영한다.
• 두 단계 LOO 재학습—전체 데이터셋과 하나의 포인트가 제거된 데이터셋에서 각각 학습하는 방식—을 사용하여 학습 시간 영향에서 데이터 제거 효과를 분리하고, PBRF의 대체 기준으로 활용한다.
• 이중 분류, 회귀, 이미지 복원, 이미지 분류, 언어 모델링 등의 다양한 작업에서 LOO, PBRF, 두 단계 LOO와의 피어슨 상관계수와 스피어만 순위 상관계수를 사용해 영향 함수 성능을 평가한다.
• 네트워크의 넓이, 깊이, 가중치 감쇠, 덤핑, 제거된 포인트 수를 체계적으로 변화시켜 각 격리 구성요소의 민감도를 분석한다.
• 손상된 MNIST 데이터셋에서 잘못 레이블링된 예제를 탐지하기 위해 영향 함수와 PBRF를 적용하여, 상위-k 영향력 있는 예제를 검토함으로써 잘못 레이블링된 데이터의 비율을 측정한다.

실험 결과

연구 질문

• RQ1 왜 신경망에서의 영향 함수는 선형 모델에서는 잘 작동하지만 LOO 재학습을 잘 근사하지 못하는가?
• RQ2 격리 분해의 다섯 구성요소 중에서—웜스타트 효과, 근접성 정규화, 수렴 불량, 선형화, 선형 시스템 근사—중에서 영향 함수와 LOO 재학습 간의 불일치에 가장 크게 기여하는 것은 무엇인가?
• RQ3 모델의 넓이, 깊이, 가중치 감쇠, 학습 시간, 덤핑에 따라 각 격리 구성요소의 기여도는 어떻게 변화하는가?
• RQ4 프락시멀 브레그만 반응 함수(PBRF)는 LOO 재학습보다 영향 함수의 진정한 목적을 더 잘 반영하는가? 그리고 더 적절한 평가 기준으로 기능할 수 있는가?
• RQ5 만약 영향 함수가 LOO 재학습과의 일치보다 PBRF와 일치한다면, 잘못 레이블링된 예제 탐지와 같은 실용적 작업에서 여전히 효과적일 수 있는가?

주요 결과

• 신경망에서 영향 함수와 LOO 재학습 간의 격리는 주로 (1) 콜드스타트 대 웜스타트 반응, (2) 암묵적 근접성 정규화, (3) 수렴하지 않은 파라미터의 세 구성요소에 의해 주도되며, 이들이 대부분의 불일치를 차지한다.
• 기존 모델에서 기능 공간과 가중치 공간의 이격을 모두 처벌하는 PBRF는 모든 평가 작업에서 영향 함수 추정치와 매우 유사하게 일치한다. 이는 이미지 분류 및 언어 모델링을 포함한 다양한 작업에서 성립한다.
• 모든 데이터셋에서 영향 함수는 PBRF와 높은 상관관계(피어슨 상관계수 r > 0.85)를 보이며, MNIST(r=0.98), FashionMNIST(r=0.91)에서도 높은 상관관계를 보인다. 반면 LOO 재학습과의 상관계수는 유의미하게 낮다.
• 두 단계 LOO 재학습 방법은 학습 시간 영향에서 데이터 제거 효과를 분리하므로, PBRF의 대체 기준으로서 타당성이 검증된다. 이 방법은 영향 함수와의 상관계수(r > 0.5)가 웜스타트 재학습보다 높다.
• 손상된 MNIST 데이터셋에서 PBRF 점수를 활용해 학습 예제를 우선순위 정렬하면, 전체 데이터의 20%만 검토해도 80% 이상의 잘못 레이블링된 예제를 탐지할 수 있으며, 랜덤 선택보다 우수한 성능을 보인다.
• 선형화(4번)와 선형 시스템 근사 해법(5번) 구성요소는 주요 격리 항목의 크기의 10분의 1 미만으로 기여하므로, 이는 부차적인 오차 원인으로 간주된다.