[논문 리뷰] Paradoxes of rational agency and formal systems that verify their own soundness

Nik Weaver|arXiv (Cornell University)|2013. 12. 12.

Logic, Reasoning, and Knowledge참고 문헌 3인용 수 4

한 줄 요약

이 논문은 페아노 산술에 참석 가능성 술어를 추가하여 형식 체계가 자신의 타당성을 효과적으로 검증할 수 있도록 함으로써 합리적 행위자에서 발생하는 역설을 해결한다. 이는 자기 자신 또는 타인의 증명을 신뢰할 수 없음에도 불구하고 그것들이 타당하다는 것을 안다는 문제를 해결하며, 증명을 완전히 실행하지 않아도 증명 가능성에 기반해 행동할 수 있도록 함으로써 인공지능 추론과 계층적 행위자 조율 문제를 해결한다.

ABSTRACT

We consider extensions of Peano arithmetic which include an assertibility predicate. Any such system which is arithmetically sound effectively verifies its own soundness. This leads to the resolution of a range of paradoxes involving rational agents who are licensed to act under precisely defined conditions.

연구 동기 및 목표

• 행위자가 자신이나 타인의 증명을 신뢰할 수 없음에도 불구하고 그것들이 타당하다는 것을 안다는 합리적 행위자 역설을 해결하기 위해.
• 인공지능 시스템이 증명 가능한 조건에 기반해 행동해야 하는 상황에서 루브의 정리와 괴델의 제2불완전성정리의 한계를 해결하기 위해.
• 자신의 타당성 체계(⁎)를 확인할 수 없는 한계를 극복하고, 효과적으로 자신의 타당성을 검증할 수 있는 형식 체계를 설계하기 위해.
• 증명이 너무 길어 실행할 수 없음에도 불구하고 증명 가능한 결과에 기반해 행동을 위임할 수 있는 계층적 행위자 시스템을 가능하게 하기 위해.

제안 방법

• 페아노 산술에 참석 가능성 술어를 추가하여 자기 자신에 대한 타당성에 대해 추론할 수 있는 체계 S*를 구성한다.
• 반복된 참석 가능성 연산자(□^κᵢ)에 기반한 서로 다른 라이선싱 기준을 가진 계층적 행위자 M₁, M₂, ... 를 도입한다.
• 상자 규칙과 증명 가능성 논리를 사용하여, M₁이 M₂가 자신의 기준에 따라 행동할 수 있음을 증명할 수 있다면, M₁은 M₂를 활성화할 수 있음을 유도한다.
• 무한한 상수 시퀀스(κᵢ)를 갖는 형식 체계 S*를 사용하여 점점 더 강력한 수준의 참석 가능성 수준을 모델링한다. 이는 κᵢ = κᵢ₊₁ + 1 를 만족한다.
• 정리 3.1과 3.2를 적용하여, 체계가 어떤 문장이 증명 가능하다는 것을 증명할 경우, 참석 가능성 술어 하에 그 문장의 진리성도 주장할 수 있음을 보여준다.
• κᵢ 값이 명시되지 않은 큰 수이므로, 형식적 차이가 있음에도 불구하고 라이선싱 기준이 행위자 간에 실질적으로 동일하게 작용한다.

실험 결과

연구 질문

• RQ1 증명 가능성이 증명된 문장을 증명할 수 있는 형식 체계를 구성할 수 있는가? 이를 통해 체계는 자신의 타당성을 효과적으로 검증할 수 있는가?
• RQ2 완전한 증명을 실행하지 않아도 조건의 증명 가능성에 기반해 행동할 수 있도록 인공지능 행위자를 설계할 수 있는가?
• RQ3 직접 증명을 검증할 수 없더라도, 체계가 자기검증적이라면 다른 행위자의 증명을 신뢰할 수 있는가?
• RQ4 각 행위자가 다음 행위자에게 증명 가능한 성공 조건에 기반해 행동을 위임할 수 있는 계층적 행위자 체계를 구축할 수 있는가?
• RQ5 직접 자신의 타당성을 진술할 수 없는 형식 체계에서 자연주의적 및 반사적 신뢰의 역설을 어떻게 해결할 수 있는가?

주요 결과

• 참석 가능성 술어를 갖춘 확장된 체계 S*는 행위자가 자신의 타당성을 효과적으로 검증할 수 있도록 하여, 루브의 정리의 한계를 우회한다.
• 증명이 너무 길어 실행할 수 없더라도, 참석 가능성 연산자를 사용함으로써 조건의 증명 가능성에 기반해 행위자가 활성화될 수 있다.
• 체계는 계층적 위임을 가능하게 한다: M₁은 M₂가 목표를 달성할 수 있는 능력이 증명 가능하다면, M₁이 직접 증명을 검증하지 않더라도 M₂를 활성화할 수 있다.
• 비표준 상수(κᵢ)를 사용하고 κᵢ = κᵢ₊₁ + 1 를 만족함으로써, 일관성에 위배되지 않으면서도 점차 강화된 참석 가능성 수준의 계층을 일관되게 모델링할 수 있다.
• 체계는 반사적 일관성 역설을 해결한다. 즉, 체계가 모든 A(n)의 사례가 증명 가능하다는 것을 증명할 경우, 참석 가능성 술어 하에 (∀n)A(n)를 유추할 수 있다.
• 이 접근법은 인공지능에서 행동 위임 문제에 대해 표준적이지 않지만 일관된 해결책을 제공한다. 여기서 행위자는 증명 가능한 결과에 대한 신뢰에 기반해 행동해야 한다.