[논문 리뷰] Logical Induction

Scott Garrabrant, Tsvi Benson-Tilsen외 3명|arXiv (Cornell University)|2016. 09. 12.

Computability, Logic, AI Algorithms참고 문헌 91인용 수 9

한 줄 요약

이 논문은 형식 언어(예: 페아노 산술)의 논리적 문장에 대해 시간이 지남에 따라 확률을 할당하고 갱신하는 계산 가능한 논리적 인도이터를 소개한다. 이 알고리즘은 진리값의 패턴을 학습하고, 가역적 수열을 모델링하며, 역설 없이 일관된 자기참조적 믿음을 형성하는 등 핵심 욕망을 충족시키며, 한계에서 유니버설 세미미저를 엄격히 지배한다.

ABSTRACT

We present a computable algorithm that assigns probabilities to every logical statement in a given formal language, and refines those probabilities over time. For instance, if language is Peano arithmetic, it assigns probabilities to all arithmetical statements, including claims about twin prime conjecture, outputs of long-running computations, and its own probabilities. We show that our algorithm, an instance of what we call a logical inductor, satisfies a number of intuitive desiderata, including: (1) it learns to predict patterns of truth and falsehood in logical statements, often long before having resources to evaluate statements, so long as patterns can be written down in polynomial time; (2) it learns to use appropriate statistical summaries to predict sequences of statements whose truth values appear pseudorandom; and (3) it learns to have accurate beliefs about its own current beliefs, in a manner that avoids standard paradoxes of self-reference. For example, if a given computer program only ever produces outputs in a certain range, a logical inductor learns this fact in a timely manner; and if late digits in decimal expansion of $\pi$ are difficult to predict, then a logical inductor learns to assign $\approx 10\%$ probability to the $n$th digit of $\pi$ is a 7 for large $n$. Logical inductors also learn to trust their future beliefs more than their current beliefs, and their beliefs are coherent in limit (whenever $\phi \implies \psi$, $\mathbb{P}_\infty(\phi) \le \mathbb{P}_\infty(\psi)$, and so on); and logical inductors strictly dominate universal semimeasure in limit. These properties and many others all follow from a single logical induction criterion, which is motivated by a series of stock trading analogies. Roughly speaking, each logical sentence $\phi$ is associated with a stock that is worth \$1 per share if [...]

연구 동기 및 목표

• 형식 언어(예: 페아노 산술)의 논리적 문장에 대해 확률을 할당하고 시간이 지남에 따라 이를 개선하는 계산 가능한 알고리즘을 개발하는 것.
• 논리적 문장의 진리와 거짓의 패턴을 공식적으로 증명할 수 있을 만큼의 자원이 충분하지 않은 시점에도 조기에 이를 예측할 수 있도록 보장하는 것.
• 자신의 확률에 대해 자기참조적 믿음을 형성하면서도 표준적인 자기참조의 역설을 피할 수 있도록 하는 것.
• 한계에서 일관성을 확보하여 논리적 함의가 확률 할당에 그대로 반영되도록 하는 것.
• 알고리즘이 한계에서 유니버설 세미미저를 엄격히 지배함을 보여주는 것으로, 강력한 인도적 성능을 나타낸다.

제안 방법

• 알고리즘은 주식 거래 비유에서 유도된 단일 논리적 인도화 기준을 만족하는 논리적 인도이터로 프레임워크화된다.
• 각 논리 문장 φ는 φ가 참일 경우 $1의 가치를 지닌 주식과 연결되며, 알고리즘은 이러한 주식을 시간이 지남에 따라 거래하여 자산 손실을 최소화한다.
• 알고리즘은 예측 정확도와 시장 효율성에 기반해 확률을 갱신하기 위해 마켓 스코어링 규칙 메커니즘을 사용한다.
• 예측 오차를 최소화하는 통계적 요약을 식별하여, 가역적으로 보이는 진리값의 순서를 학습함으로써 이를 모델링한다.
• φ가 ψ를 함의하면 P∞(φ) ≤ P∞(ψ)임을 강제함으로써, 알고리즘이 한계에서 일관성을 확보한다.
• 알고리즘은 계산 가능하며 시간이 지남에 따라 믿음을 개선하며, 유니버설 세미미저를 지배하는 수렴 성질을 갖는다.

실험 결과

연구 질문

• RQ1 계산 가능한 알고리즘이 증명 가능하지 않은 논리적 문장에 대해 정확한 확률을 할당할 수 있는가?
• RQ2 진리값의 순서가 가역적으로 보이지만 여전히 일관된 확률을 할당할 수 있는 체계는 어떻게 설계할 수 있는가?
• RQ3 논리적 인도이터는 자신의 확률에 대해 자기참조적 믿음을 형성하면서도 역설에 빠지지 않을 수 있는가?
• RQ4 논리적 인도이터의 믿음 체계는 한계에서 일관된 확률 분포로 수렴하는가?
• RQ5 논리적 인도이터는 한계에서 유니버설 세미미저를 엄격히 지배하는가?

주요 결과

• 큰 n에 대해 π의 n번째 숫자가 7일 확률을 약 10%로 학습함으로써, 숫자 분포의 가역성적 성격을 반영한다.
• 특정 범위의 출력만 생성하는 프로그램이 계속 그 범위 내에서 동작할 것임을 학습함으로써, 전체 실행 없이도 이를 추론한다.
• 한계에서 인도이터의 믿음은 일관성이 있다: φ가 ψ를 함의하면 P∞(φ) ≤ P∞(ψ)이다.
• 인도이터는 한계에서 유니버설 세미미저를 엄격히 지배하며, 뛰어난 인도적 성능을 나타낸다.
• 인도이터는 미래의 믿음을 현재 믿음보다 더 신뢰하게 되며, 시간이 지남에 따라 합리적인 자기보정을 반영한다.
• 충분한 자원이 확보되지 않은 상태에서도 논리적 문장의 진리와 거짓에 대한 패턴을 조기에 예측할 수 있다.