[논문 리뷰] Preventing False Discovery in Interactive Data Analysis is Hard

Moritz Hardt, Jonathan Ullman|arXiv (Cornell University)|2014. 08. 06.

Privacy-Preserving Technologies in Data참고 문헌 3인용 수 23

한 줄 요약

이 논문은 표준 암호학적 가정 하에, 알려지지 않은 분포로부터 $ n $개의 표본을 받는 데 있어, 계산적으로 효율적인 알고리즘이 적응적으로 선택된 통계적 질의를 $ n^{3+o(1)} $개를 초과해 정확하게 답변할 수 없다는 것을 보여준다. 이 결과는 상호작용적 데이터 분석에서 가짜 발견을 방지하는 데 있어 근본적인 계산적 장벽을 설정하며, 이 임계값을 초과하면 심조된 통계적 답변조차도 비현실적이 된다는 것을 보여준다.

ABSTRACT

We show that, under a standard hardness assumption, there is no computationally efficient algorithm that given $n$ samples from an unknown distribution can give valid answers to $n^{3+o(1)}$ adaptively chosen statistical queries. A statistical query asks for the expectation of a predicate over the underlying distribution, and an answer to a statistical query is valid if it is "close" to the correct expectation over the distribution. Our result stands in stark contrast to the well known fact that exponentially many statistical queries can be answered validly and efficiently if the queries are chosen non-adaptively (no query may depend on the answers to previous queries). Moreover, a recent work by Dwork et al. shows how to accurately answer exponentially many adaptively chosen statistical queries via a computationally inefficient algorithm; and how to answer a quadratic number of adaptive queries via a computationally efficient algorithm. The latter result implies that our result is tight up to a linear factor in $n.$ Conceptually, our result demonstrates that achieving statistical validity alone can be a source of computational intractability in adaptive settings. For example, in the modern large collaborative research environment, data analysts typically choose a particular approach based on previous findings. False discovery occurs if a research finding is supported by the data but not by the underlying distribution. While the study of preventing false discovery in Statistics is decades old, to the best of our knowledge our result is the first to demonstrate a computational barrier. In particular, our result suggests that the perceived difficulty of preventing false discovery in today's collaborative research environment may be inherent.

연구 동기 및 목표

• 적응적으로 선택된 통계적 질의에 대한 계산적 한계를 유지하면서 통계적 타당성을 유지하는 데 있어 계산적 한계를 조사하는 것.
• 상호작용적 데이터 분석 환경에서 계산적 효율성과 통계적 타당성이 공존할 수 있는지 확인하는 것.
• 정확하고 효율적으로 답변할 수 있는 적응적 질의의 수에 대해 날카로운 하한을 설정하는 것.
• 협업 연구에서 가짜 발견을 피하는 데 어려움을 느끼는 이유가 본질적인 계산 불가능성에서 비롯될 수 있음을 보여주는 것.
• 가짜 발견 방지와 암호학적 딱딱함 가정 간의 관계를 체계화하는 것.

제안 방법

• 질의가 이전 답변에 의존하는 상황을 형식화하기 위해 통계적 질의(SQ) 모델을 사용한다.
• 정확한 질의 응답에서의 이탈을 탐지하기 위해 지문 코드(fingerprinting codes)를 활용한다.
• 하한을 증명하기 위해 특정히 일방향 함수의 존재를 가정하는 계산적 딱딱함 가정에 의존한다.
• 적응적 분석가를 시뮬레이션하고 오라클이 질의를 정확하게 답변하는지 테스트하기 위해 개인정보 보호를 고려한 공격을 설계한다.
• 지문 코드의 복구 및 공격 단계를 분석하여 성공적인 추론 확률을 근사한다.
• 정보 이론적 및 계산적 불가분성 논증을 적용하여 질의 정확성과 개인정보 유출 간의 연결을 맺는다.

실험 결과

연구 질문

• RQ1 계산적으로 효율적인 오라클이 $ n^{3+o(1)} $개를 초과하는 적응적으로 선택된 통계적 질의를 높은 정확도로 답변할 수 있는가?
• RQ2 상호작용적 데이터 분석에서 가짜 발견을 방지하는 데 있어 근본적인 계산적 장벽이 존재하는가?
• RQ3 질의 선택의 적응성은 통계적 타당성을 유지하는 데 있어 가능성을 어떻게 영향을 미치는가?
• RQ4 암호학적 가정을 사용하여 적응 설정에서 정확하게 답변할 수 있는 질의 수에 대한 하한을 증명할 수 있는가?
• RQ5 적응적 데이터 분석에서 통계적 타당성과 개인정보 보호 간의 관계는 무엇인가?

주요 결과

• 일방향 함수의 존재를 가정할 경우, 계산적으로 효율적인 오라클은 $ n^{3+o(1)} $개의 적응적 통계적 질의를 고정된 정확도로 답변할 수 없다.
• 기존에 알려진 효율적 알고리즘에 대한 이차 상한이 $ n $에 대한 선형 인자 범위 내에서 날카로운 하한임을 보여주며, 지수적 질의 처리는 계산적으로 비효율적인 오라클가 아닌 한 불가능하다.
• 논문은 가짜 발견 방지를 위한 계산적 장벽을 설정하며, 현대적 협업 연구에서의 어려움이 본질적인 것이며 방법론적 문제가 아니라는 것을 시사한다.
• 지문 코드 기반의 개인정보 공격은 정확하지 않은 오라클을 높은 확률로 식별하며, 통계적 타당성과 개인정보 유출 간의 연결을 맺는다.
• 정보 이론적 하한은 심지어 무제한 오라클이라도 $ n^{3+o(1)} $개의 적응적 질의를 정확히 답변하려면 명백한 개인정보 유출가 발생할 수 없음을 확인한다.
• 분석 결과, 오라클이 정확하다면 공격 단계에서 사용되지 않은 표본 집합이 높은 확률로 크기가 유지되며, 이는 오라클이 정보를 泄露하고 있음을 암시한다.