[논문 리뷰] Fundamental Flaws in Feller's Classical Derivation of Benford's Law

Arno Berger, Theodore P. Hill|arXiv (Cornell University)|2010. 05. 14.

Benford’s Law and Fraud Detection참고 문헌 5인용 수 5

한 줄 요약

이 논문은 펠러의 벤포르드의 법칙에 대한 고전적 유도에서 근본적인 결함을 밝혀내며, 확률변수의 분산이 크다고 해서 근사적으로 벤포르드 분포가 되는 것은 아님을 입증한다. 새로운 부등식을 통해 균일분포를 따르는 변수가 아무리 큰 분산을 가질지라도 여전히 벤포르드 분포에서 멀리 떨어져 있음을 보이며, 확률 및 통계 분야에서 널리 인용된 히우리스틱을 무효화한다.

ABSTRACT

Feller's classic text 'An Introduction to Probability Theory and its Applications' contains a derivation of the well known significant-digit law called Benford's law. More specifically, Feller gives a sufficient condition ("large spread") for a random variable $X$ to be approximately Benford distributed, that is, for $\log_{10}X$ to be approximately uniformly distributed modulo one. This note shows that the large-spread derivation, which continues to be widely cited and used, contains serious basic errors. Concrete examples and a new inequality clearly demonstrate that large spread (or large spread on a logarithmic scale) does not imply that a random variable is approximately Benford distributed, for any reasonable definition of "spread" or measure of dispersion

연구 동기 및 목표

• 1966년 펠러의 저서에서 주장한 바와 같이, 큰 분산이 근사적인 벤포르드 분포를 암시한다는 오랫동안 지속된 믿음을 도전하기 위해.
• 선형 척도 또는 로그 척도에서의 큰 분산이 벤포르드 행동을 보장하지 않는다는 반례를 통해 이를 입증하기 위해.
• 균일분포를 따르는 변수 X ~ Uniform(0,T)에 대해 log₁₀X mod 1과 U(0,1) 사이의 콜모고로프-스미르노프 거리에 대한 엄밀한 하한을 설정하기 위해.
• 펠러의 주장 (2)와 X mod 1의 균일성에 관한 관련하지만 별개의 주장 (3) 사이의 혼동을 명확히 하기 위해.
• 교육자들과 연구자들이 교육이나 데이터 분석에서 '큰 분산' 히우리스틱에 의존하는 것을 경고하기 위해.

제안 방법

• 큰 분산이 log₁₀X mod 1의 균일성으로 이어진다고 주장한 펠러의 도식을 분석하며, 이는 분산이 크면 균일분포가 된다는 주장에 초점을 맞춘다.
• 분포가 (0,T)에서 균일분포를 따르는 확률변수를 사용하여 명시적인 반례를 구성하며, T가 아무리 크더라도 벤포르드 분포에 수렴하지 않음을 보여준다.
• X ~ Uniform(0,T)에 대해 log₁₀X mod 1과 U(0,1) 사이의 콜모고로프-스미르노프 거리에 대한 새로운 날카운 하한을 유도하며, d_KS ≥ 0.1334를 도출한다.
• log₁₀T에 대한 KS 거리의 주기성을 이용하여, 분산을 늘려도 균일성과의 거리가 감소하지 않음을 보여준다.
• 펠러의 도식에서 발생한 오류와 이전에 유사하게 잘못된 척도 불변성 논증을 제시한 핑크햄의 논증을 비교하며, 공통된 기초 오류를 부각한다.
• 실제 세계 데이터(예: 뉴욕타임스 기사)를 벤포르드의 법칙과 비교하여 혼합 과정을 통한 법칙의 도출을 설명하는 등, 대체 교육적 접근 방식을 제안한다.

실험 결과

연구 질문

• RQ1 확률변수의 분포에서 큰 분산이 그 로그가 모듈로 1에서 균일분포를 따르는가를 의미하는가?
• RQ2 T가 매우 클 때, (0,T)에서 균일분포를 따르는 확률변수 X는 근사적으로 벤포르드 분포가 될 수 있는가?
• RQ3 X ~ Uniform(0,T)에 대해 log₁₀X mod 1과 U(0,1) 사이의 콜모고로프-스미르노프 거리의 하한은 얼마인가?
• RQ4 반례가 존재하는데도 불구하고, 펠러의 잘못된 도식이 40년이 넘도록 학술 교육 및 문헌에서 지속된 이유는 무엇인가?
• RQ5 확률변수의 로그 척도에서 분산을 늘리면 반드시 그 거리가 벤포르드 분포에 수렴하는가?

주요 결과

• 모든 분산 측도 기준으로 볼 때, 펠러가 주장한 바와 같이 큰 분산이 근사적인 벤포르드 분포를 암시한다는 것은 근본적으로 잘못된 주장이다.
• 모든 양의 균일분포를 따르는 확률변수 X에 대해, log₁₀X mod 1과 U(0,1) 사이의 콜모고로프-스미르노프 거리는 0.1334 이상으로 하한이 있으며, 이는 날카운 보편 상수이다.
• X의 분산이 증가함에 따라 이 거리는 여전히 0에서 멀리 떨어져 있으며, 이는 큰 분산이 벤포르드 행동을 유도하지 않는다는 것을 증명한다.
• 벤포르드 분포와의 거리는 분산 증가와 함께 단조로이 감소하지 않으며, 예를 들어 Z = 10^(3Y/2)는 X = 10^Y보다 더 큰 분산을 가지지만 벤포르드 성향이 더 낮다.
• log₁₀X_T mod 1과 U(0,1) 사이의 KS 거리는 log₁₀T에 대한 연속적인 1주기 함수이므로, 거리가 진동하며 0으로 수렴하지 않음을 나타낸다.
• 오류의 지속성은 펠러의 주장 (2)와 관련되지만 별개인 주장 (3) 사이의 혼동과, 확률이론에서 펠러의 권위에 대한 과도한 의존 때문이기도 하다.