[논문 리뷰] How much does your data exploration overfit? Controlling bias via information usage

Daniel Russo, James Zou|arXiv (Cornell University)|2015. 11. 16.

Privacy-Preserving Technologies in Data참고 문헌 34인용 수 31

한 줄 요약

이 논문은 데이터와 분석 선택 간의 상호정보량을 측정하여 적응적 데이터 분석에서의 편향을 정량화하고 경계하는 정보이론적 프레임워크를 제안한다. 상호정보량이 선택 편향을 날카롭게 경계함으로써 탐색적 데이터 분석에서 과적합을 원칙적으로 평가할 수 있는 방법을 제공하며, 필터링, 랭킹, 클러스터링 절차에 적용 가능하다.

ABSTRACT

Modern data is messy and high-dimensional, and it is often not clear a priori what are the right questions to ask. Instead, the analyst typically needs to use the data to search for interesting analyses to perform and hypotheses to test. This is an adaptive process, where the choice of analysis to be performed next depends on the results of the previous analyses on the same data. Ultimately, which results are reported can be heavily influenced by the data. It is widely recognized that this process, even if well-intentioned, can lead to biases and false discoveries, contributing to the crisis of reproducibility in science. But while %the adaptive nature of exploration any data-exploration renders standard statistical theory invalid, experience suggests that different types of exploratory analysis can lead to disparate levels of bias, and the degree of bias also depends on the particulars of the data set. In this paper, we propose a general information usage framework to quantify and provably bound the bias and other error metrics of an arbitrary exploratory analysis. We prove that our mutual information based bound is tight in natural settings, and then use it to give rigorous insights into when commonly used procedures do or do not lead to substantially biased estimation. Through the lens of information usage, we analyze the bias of specific exploration procedures such as filtering, rank selection and clustering. Our general framework also naturally motivates randomization techniques that provably reduces exploration bias while preserving the utility of the data analysis. We discuss the connections between our approach and related ideas from differential privacy and blinded data analysis, and supplement our results with illustrative simulations.

연구 동기 및 목표

• 탐색적 데이터 분석에서 연구자들이 가진 자유도가 초래하는 재현성 위기 문제를 해결하기 위해.
• 동일한 데이터셋에서 이전 결과에 따라 분석 선택이 결정되는 적응적 데이터 탐색에서 발생하는 편향의 정도를 정량화하기 위해.
• 임의의 적응적 분석 절차에서 선택 편향을 측정하고 경계하는 일반적이며 증명 가능한 날카운 프레임워크를 개발하기 위해.
• 일반적인 관행인 필터링, 랭킹 선택, 클러스터링이 높거나 낮은 편향을 초래하는 경우를 이해하는 데 통찰을 제공하기 위해.
• 분석 유틸리티를 유지하면서 편향을 줄이는 데 기여하는 랜덤화 기법을 동기화하고, 차별적 프라이버시 및 망각된 분석과 연결하기 위해.

제안 방법

• 선택된 분석 $ T $ 와 데이터 $ \bm{\phi} $ 간의 상호정보량 $ I(T; \bm{\phi}) $ 를 기반으로 선택 편향에 대한 경계를 제안한다.
• 일반적인 통계적 설정, 예를 들어 가우시안 이동 모델에서 이 상호정보량 경계가 날카롭게 작용함을 증명한다.
• 특정 절차를 분석하기 위해 프레임워크를 적용한다: 낮은 발현 유전자 필터링, 상위 랭킹 유전자 선택, 클러스터링 기반 선택.
• 신호 강도가 증가할수록 상호정보량이 감소함을 보여주며, 이는 적응성 감소와 함께 낮아지는 편향을 올바르게 반영한다.
• 최대정보량(max-information)과 근사 최대정보량(approximate max-information)과 대비하여, 이러한 측정치는 기대와 반대로 행동할 수 있음을 보여주며(예: 신호 강도 증가에 따라 증가), 실제 편향을 잘 반영하지 못함을 밝힌다.
• 정보 사용을 제한함으로써 편향을 증명 가능하게 줄일 수 있는 랜덤화 기법을 도입하며, 데이터 유틸리티를 유지한다.

실험 결과

연구 질문

• RQ1 동일한 데이터에서 이전 결과에 따라 분석 선택이 결정되는 적응적 데이터 탐색에서 발생하는 편향을 엄밀하게 정량화할 수 있는 방법은 무엇인가?
• RQ2 필터링, 랭킹 선택, 클러스터링과 같은 일반적인 탐색 절차는 선택 편향에 어떻게 기여하는가?
• RQ3 선택된 분석과 데이터 간의 상호정보량이 실제 선택 편향과 어떻게 관련되어 있는가?
• RQ4 기존의 측정치인 최대정보량이 직관적인 편향 스케일링(예: 신호 강도 증가에 따라 감소)을 반영하지 못하는 이유는 무엇인가? 반면 상호정보량은 이를 잘 반영한다.
• RQ5 랜덤화를 통해 정보 사용을 줄일 수 있고, 분석 유틸리티를 훼손하지 않으면서 편향을 통제할 수 있는가?

주요 결과

• 상호정보량 $ I(T; \bm{\phi}) $ 는 적응적 데이터 분석에서 선택 편향의 날카로운 증명 가능한 상한을 제공하며, 특히 가우시안 이동 모델에서 유의미하다.
• 신호 강도 $ \mu $ 가 증가할수록 상호정보량 $ I(T; \bm{\phi}) $ 는 감소하며, 이는 적응성 감소와 함께 낮아지는 편향을 정확히 반영한다. 반면 최대정보량은 증가한다.
• 최대정보량과 근사 최대정보량은 오해의 소지가 있다: 신호 강도가 증가함에 따라 증가하지만, 실제로는 편향이 감소하므로 실제 편향을 잘 반영하지 못한다.
• 프레임워크는 고차원 데이터에서 약한 신호를 가진 경우 랭킹 선택이 심각한 편향을 초래할 수 있음을 드러내며, 이는 선택이 결정론적일지라도 마찬가지다.
• 정보 사용을 제한하는 랜덤화 기법은 증명 가능하게 편향을 줄일 수 있으며, 유틸리티를 유지함으로써 더 재현 가능한 분석을 위한 실용적 길을 제시한다.
• 상호정보량 프레임워크는 차별적 프라이버시와 망각된 분석과 자연스럽게 연결되며, 데이터 과학에서 과적합을 제어하는 공통 원칙을 시사한다.