[논문 리뷰] Quantifying Statistical Significance of Neural Network Representation-Driven Hypotheses by Selective Inference

Vo Nguyen Le Duy, Shogo Iwazaki외 1명|arXiv (Cornell University)|2021. 05. 04.

Explainable Artificial Intelligence (XAI)참고 문헌 30인용 수 13

한 줄 요약

이 논문은 딥 네ural 네트워크(DNN) 표현에서 유도된 가설의 통계적 유의성을 정량화하기 위한 선택적 추론(Selective Inference, SI) 프레임워크를 제안한다. 이는 동형성 기반 알고리즘을 사용하여 정확한 조건부 표본 분포를 계산한다. 이 방법은 거짓 양성률을 통제하며, 시뮬레이션 및 실세계 데이터셋에서 높은 계산 효율성과 실용적 성능을 보여준다.

ABSTRACT

In the past few years, various approaches have been developed to explain and interpret deep neural network (DNN) representations, but it has been pointed out that these representations are sometimes unstable and not reproducible. In this paper, we interpret these representations as hypotheses driven by DNN (called DNN-driven hypotheses) and propose a method to quantify the reliability of these hypotheses in statistical hypothesis testing framework. To this end, we introduce Selective Inference (SI) framework, which has received much attention in the past few years as a new statistical inference framework for data-driven hypotheses. The basic idea of SI is to make conditional inferences on the selected hypotheses under the condition that they are selected. In order to use SI framework for DNN representations, we develop a new SI algorithm based on homotopy method which enables us to derive the exact (non-asymptotic) conditional sampling distribution of the DNN-driven hypotheses. We conduct experiments on both synthetic and real-world datasets, through which we offer evidence that our proposed method can successfully control the false positive rate, has decent performance in terms of computational efficiency, and provides good results in practical applications.

연구 동기 및 목표

• 딥 네ural 네트워크(DNN) 표현의 해석에서의 불안정성과 재현 불가능성 문제를 해결한다.
• DNN 기반 해석을 데이터 기반 가설로 재정의하여 통계적 검증이 필요하다는 점을 강조한다.
• 히우리스틱 또는 점근적 방법을 초월해 이러한 가설의 유의성을 평가할 수 있는 신뢰할 수 있는 통계 프레임워크를 개발한다.
• DNN 기반 가설에 대해 정확하고 점근적이지 않은 추론을 가능하게 하여 해석 가능성과 신뢰도를 향상시킨다.

제안 방법

• 선택적 추론(SI) 프레임워크를 도입하여 DNN 표현에 기반한 가설 선택에 대한 조건부 추론을 수행한다.
• 선택된 DNN 기반 가설의 정확한(점근적이지 않은) 조건부 표본 분포를 계산하기 위한 새로운 동형성 기반 알고리즘을 개발한다.
• 동형성 방법의 경로 추적 기법을 활용하여 해답 경로를 효율적으로 추적하고, 선택 조건 하에서 유효한 p-값을 유도한다.
• 동형성 알고리즘을 DNN 표현 파이프라인에 통합하여 기능 중요도 및 표현 기반 가설의 통계적 검정을 가능하게 한다.
• 선택 이벤트를 조건으로 하여 제1종 오류 비율을 통제함으로써 선택 이후 추론의 함정을 피한다.

실험 결과

연구 질문

• RQ1 선택적 추론은 DNN 표현에서 파생된 가설의 통계적 유의성을 효과적으로 정량화하는 데 적용될 수 있는가?
• RQ2 제안된 동형성 기반 SI 방법은 DNN 기반 가설에 대해 정확하고 점근적이지 않은 추론을 제공하는가?
• RQ3 기존의 접근 방식과 비교해 실무에서 이 방법은 거짓 양성률을 얼마나 잘 통제하는가?
• RQ4 이 방법은 실세계 및 시뮬레이션 데이터셋에서 계산 효율성과 확장성 측면에서 얼마나 우수한가?

주요 결과

• 제안된 방법은 시뮬레이션 및 실세계 데이터셋 모두에서 거짓 양성률을 성공적으로 통제하여 통계적 신뢰성을 입증한다.
• 동형성 기반 알고리즘이 점근적 근사에 의존하지 않고 정확한 조건부 추론을 가능하게 하여 기존 방법보다 정확도를 향상시킨다.
• 이 방법은 양호한 계산 효율성을 보이며, 해석 파이프라인에 실용적으로 구현 가능한 가능성을 보여준다.
• 실험 결과는 이 방법이 다양한 데이터 환경에서 의미 있고 재현 가능한 DNN 표현 해석을 도출한다는 것을 보여준다.