[논문 리뷰] Identification of Probabilities

Paul Vitányi, Nick Chater|2017. 08. 04.

Computability, Logic, AI Algorithms참고 문헌 44인용 수 14

한 줄 요약

이 논문은 계산 가능성 제약 조건 하에서 뇌 유사 시스템이 유한한 i.i.d. 표본을 사용하여 강한 수렴 법칙을 통해 진짜 확률 모형—독립 동일 분포 분포 또는 마르코프 체인—을 거의 확실하게 식별할 수 있음을 입증한다. 그리고 종속적인 수열의 경우, 콜모고로프 복잡도를 사용하여 마틴-로프 유형이 되는 계산 가능한 측도를 식별할 수 있다. 핵심 결과는 이러한 식별이 계산 또는 데이터 제약이 없더라도 한계에서 가능하다는 것이다.

ABSTRACT

Within psychology, neuroscience and artificial intelligence, there has been increasing interest in the proposal that the brain builds probabilistic models of sensory and linguistic input: that is, to infer a probabilistic model from a sample. The practical problems of such inference are substantial: the brain has limited data and restricted computational resources. But there is a more fundamental question: is the problem of inferring a probabilistic model from a sample possible even in principle? We explore this question and find some surprisingly positive and general results. First, for a broad class of probability distributions characterised by computability restrictions, we specify a learning algorithm that will almost surely identify a probability distribution in the limit given a finite i.i.d. sample of sufficient but unknown length. This is similarly shown to hold for sequences generated by a broad class of Markov chains, subject to computability assumptions. The technical tool is the strong law of large numbers. Second, for a large class of dependent sequences, we specify an algorithm which identifies in the limit a computable measure for which the sequence is typical, in the sense of Martin-Lof (there may be more than one such measure). The technical tool is the theory of Kolmogorov complexity. We analyse the associated predictions in both cases. We also briefly consider special cases, including language learning, and wider theoretical implications for psychology.

연구 동기 및 목표

• 유한한 표본에서 계산 또는 데이터 자원 제약이 없더라도 확률 모형을 이론적으로 식별할 수 있는지 규명하는 것.
• 인지과학과 신경과학에 부합하는 방식으로 감각 또는 언어 입력으로부터 계산 가능한 확률 분포와 측도를 학습할 수 있는 가능성 탐색.
• 학습 알고리즘이 오직 데이터 스트림만을 사용하여 한계에서 거의 확실하게 올바른 생성 모형을 식별할 수 있는 조건을 설정하는 것.
• 독립 동일 분포(i.i.d.) 과정과 마르코프 체인뿐 아니라 더 일반적인 종속 수열으로 분석을 확장하는 것.
• 이러한 결과가 인지, 언어 학습, 그리고 베이지안 뇌 가설 이론에 미치는 함의 탐색.

제안 방법

• 강한 수렴 법칙을 사용하여, 계산 가능한 i.i.d. 분포가 유한한 i.i.d. 표본으로부터 한계에서 식별될 수 있음을 보여준다.
• 계산 가능성 가정을 적용하여 고려 중인 확률 분포와 마르코프 체인이 랜덤성을 접근할 수 있는 튜링 기계로 표현 가능함을 보장한다.
• 종속적인 수열의 경우, 마틴-로프 난수성과 일반적인 유형성 개념을 활용하여, 데이터 수열이 알고리즘적으로 난수인 계산 가능한 측도를 식별한다.
• 콜모고로프 복잡도를 사용하여 유형성 테스트를 정의한다: 수열이 측도 μ에 대해 유형성이면, σ(j) = K(μ) − K(x₁…xⱼ)의 값이 유계가 된다.
• σ(j)의 하향 점근적 근사치를 통해, 데이터 수열이 μₖ에 대해 유형성이 되는 최소 인덱스 k를 한계에서 식별하는 학습 알고리즘을 구축한다.
• 계산 가능한 측도의 공계산적 나열과 새로운 색인 기법(‘h-지수’ 유사 기법)을 활용하여, 유계와 무한한 σ(j) 수열을 구분하며, 이전에 잘못된 분리 논증을 대체한다.

실험 결과

연구 질문

• RQ1 계산 및 데이터 자원 제약이 없더라도, 원칙적으로 유한한 표본에서 진짜 확률 모형을 식별할 수 있는가?
• RQ2 강한 수렴 법칙만을 사용하여, 계산 가능한 i.i.d. 확률 분포를 유한한 i.i.d. 표본에서 거의 확실하게 식별할 수 있는가?
• RQ3 이러한 식별은 계산 가능성 제약 조건 하에서 마르코프 체인으로까지 확장될 수 있는가?
• RQ4 종속적인 수열의 경우, 관측된 데이터 수열이 마틴-로프 의미에서 유형성이 되는 계산 가능한 측도를 식별할 수 있는가?
• RQ5 인지과학에서 확률 모형 학습의 이론적 한계는 무엇이며, 계산 가능성과 알고리즘 복잡도가 이러한 학습을 어떻게 제약하거나 가능하게 하는가?

주요 결과

• 계산 가능한 i.i.d. 분포와 마르코프 체인의 넓은 범위에서, 학습 알고리즘이 유한한 i.i.d. 표본으로부터 강한 수렴 법칙을 사용하여 한계에서 거의 확실하게 진짜 분포를 식별할 수 있다.
• 기본 분포가 계산 가능하다는 가정 하에, 표본 크기가 증가함에 따라 식별 과정이 정확한 모형으로 수렴함이 보장된다.
• 종속적인 수열의 경우, 계산 가능한 측도 μ가 존재한다면, 알고리즘이 한계에서 데이터 수열이 마틴-로프 유형이 되는 그런 측도 μ를 식별한다.
• 핵심 기술적 통찰은 σ(j) = K(μ) − K(x₁…xⱼ)가 유계이면 유형성이 되며, 이 유계성을 공계산적 측도 나열과 색인 기반 선택 규칙을 통해 감지할 수 있다는 것이다.
• 알고리즘은 유한한 시간 n₀ 이후에 안정된 인덱스 k를 출력하며, 이는 모든 n ≥ n₀에 대해 iₙ = k가 되게 하여 한계에서의 수렴을 증명한다.
• 이전 버전(arXiv:1208.5003)의 오류를 수정하기 위해, 잘못된 유계/무한한 σ(j) 수열 분리 논증을 대체로, h-지수 유사 기법에 기반한 강력한 색인 방법을 도입한다.