[논문 리뷰] Data Debugging with Shapley Importance over End-to-End Machine Learning Pipelines

Bojan Karlaš, David Dao외 5명|arXiv (Cornell University)|2022. 04. 23.

Machine Learning and Data Classification인용 수 7

한 줄 요약

이 논문은 종단 간 기계 학습 파이프라인에서 훈련 예제의 셰플리 값(Shapley values)을 효율적으로 계산하는 데에 있어 최초의 시스템인 DataScope를 소개한다. 파이프라인을 '표준 파이프라인'(canonical pipelines)으로 모델링함으로써, 즉 관계대수학 쿼리에 이어 KNN 분류기가 오는 방식으로, 많은 부분가족에서 PTIME 복잡도를 달성하여 몬테카를로 방법 대비 최대 4개 지수의 속도 향상을 이룩하면서도 데이터 디버깅 효과성을 유지하거나 향상시킨다.

ABSTRACT

Developing modern machine learning (ML) applications is data-centric, of which one fundamental challenge is to understand the influence of data quality to ML training -- "Which training examples are 'guilty' in making the trained ML model predictions inaccurate or unfair?" Modeling data influence for ML training has attracted intensive interest over the last decade, and one popular framework is to compute the Shapley value of each training example with respect to utilities such as validation accuracy and fairness of the trained ML model. Unfortunately, despite recent intensive interest and research, existing methods only consider a single ML model "in isolation" and do not consider an end-to-end ML pipeline that consists of data transformations, feature extractors, and ML training. We present DataScope (ease.ml/datascope), the first system that efficiently computes Shapley values of training examples over an end-to-end ML pipeline, and illustrate its applications in data debugging for ML training. To this end, we first develop a novel algorithmic framework that computes Shapley value over a specific family of ML pipelines that we call canonical pipelines: a positive relational algebra query followed by a K-nearest-neighbor (KNN) classifier. We show that, for many subfamilies of canonical pipelines, computing Shapley value is in PTIME, contrasting the exponential complexity of computing Shapley value in general. We then put this to practice -- given an sklearn pipeline, we approximate it with a canonical pipeline to use as a proxy. We conduct extensive experiments illustrating different use cases and utilities. Our results show that DataScope is up to four orders of magnitude faster over state-of-the-art Monte Carlo-based methods, while being comparably, and often even more, effective in data debugging.

연구 동기 및 목표

• 현대 기계 학습 파이프라인에서 데이터 변환과 특징 추출기를 포함한 경우에도 확장 가능한 종단 간 데이터 중요도 계산의 부족을 해결하기 위해.
• 격리된 모델이 아닌 완전한 기계 학습 파이프라인에 대해 셰플리 값을 계산하여 효율적이고 정밀한 데이터 디버깅을 가능하게 하기 위해.
• 유비쿼터스 데이터 증거 이론과 현대 기계 학습 파이프라인을 연결하기 위해 실행 가능한 알고리즘 프레임워크를 제공하기 위해.
• 표준 파이프라인에서의 셰플리 값 계산이 많은 부분가족에서 PTIME에 속한다는 것을 입증하여 일반적인 경우의 지수 복잡도와 대비하기 위해.
• 실제 sklearn 파이프라인을 표준 파이프라인으로 근사화하여 효율적인 데이터 중요도 분석을 가능하게 하는 실용적인 시스템인 DataScope를 제공하기 위해.

제안 방법

• 저자들은 '표준 파이프라인'이라고 불리는 파이프라인의 클래스를 정의하며, 이는 양의 관계대수학 쿼리에 이어 KNN 분류기가 오는 것으로 구성된다.
• 그들은 표준 파이프라인의 많은 부분가족에 대해 셰플리 값 계산이 PTIME에 속함을 증명하며, 일반적인 경우의 지수 복잡도를 피한다.
• 시스템은 특징 공학 및 모델 프록시 기법을 사용하여 실제 sklearn 파이프라인을 표준 파이프라인으로 변환함으로써 이를 근사화한다.
• DataScope는 훈련 예제의 영향을 파이프라인 전반에 걸쳐 추적하기 위해 데이터 증거 및 지식 컴파일레이션 기법을 활용한다.
• 스케일이 큰 데이터셋에서도 효율적으로 셰플리 값을 추정하기 위해 프록시 모델(KNN)을 사용하여 스케일이 가능한 계산을 가능하게 한다.
• 경량 인스트루멘테이션을 통해 기존 기계 학습 워크플로우에 통합되어 종단 간 파이프라인 디버깅을 지원한다.

실험 결과

연구 질문

• RQ1 일반적인 경우에서 지수 복잡도가 존재하는 바에도 종단 간 기계 학습 파이프라인에서의 셰플리 값 계산을 다루기 쉽게 만들 수 있는가?
• RQ2 어떤 종류의 기계 학습 파이프라인이 데이터 디버깅에 유용성을 유지하면서도 다항 시간 내에 셰플리 값 계산이 가능한가?
• RQ3 실제 sklearn 파이프라인을 효과적으로 표준 파이프라인으로 근사화하여 효율적인 데이터 중요도 분석을 가능하게 할 수 있는가?
• RQ4 표준 파이프라인에서의 셰플리 기반 데이터 중요도가 최신 몬테카를로 방법 대비 데이터 디버깅에 얼마나 향상되는가?
• RQ5 데이터 증거와 관계대수학이 기계 학습 파이프라인 분석과 효과적으로 통합되어 스케일이 가능하고 설명 가능한 데이터 디버깅을 가능하게 할 수 있는가?

주요 결과

• DataScope는 최신 몬테카를로 기반 셰플리 값 계산 방법 대비 최대 4개 지수의 속도 향상을 달성한다.
• 표준 파이프라인의 많은 부분가정에서 셰플리 값 계산이 PTIME에 속하여 일반적인 경우가 비가역적인 곳에서도 정확한 계산이 효율적으로 가능하다.
• 몬테카를로 기반 기준선과 비교해 유사하거나 더 뛰어난 효과를 보이며, 특히 문제 있는 훈련 예제를 식별하는 데서 뛰어난 성능을 보인다.
• 실제 sklearn 파이프라인을 표준 파이프라인으로 근사화함으로써 데이터 중요도 순위의 정밀도를 유지하여 실용적 구현이 가능하다.
• 데이터 증거와 지식 컴파일레이션의 통합은 특징 추출 및 모델 훈련 단계를 아우르는 스케일이 가능한 종단 간 영향 분석을 가능하게 한다.
• 실증 평가를 통해 DataScope를 통해 계산된 셰플리 값이 노이즈가 있거나 편향된 예제와 같은 데이터 품질 문제를 효과적으로 식별함을 확인했다.