[논문 리뷰] Anthropic decision theory

Stuart Armstrong|arXiv (Cornell University)|2011. 10. 28.

Space Science and Extraterrestrial Life참고 문헌 21인용 수 5

한 줄 요약

이 논문은 인문학적 역설—예를 들어 수면 중 미녀 문제—를 인문학적 확률이 아닌 최적의 결정에 초점을 맞추어 해결하는 앤서로프 결정 이론(ADT)을 소개한다. 자기 이익과 이타적 태도의 유틸리티 일치를 모델링함으로써 ADT는 자기확인적 연결을 통해 일관된 결정을 도출하며, 논란의 여지가 있는 확률 가정에 의존하지 않고 프리스üm프투어스 필로소퍼 및 도oms데이 가정과 같은 역설을 해결한다.

ABSTRACT

This paper sets out to resolve how agents ought to act in the Sleeping Beauty problem and various related anthropic (self-locating belief) problems, not through the calculation of anthropic probabilities, but through finding the correct decision to make. It creates an anthropic decision theory (ADT) that decides these problems from a small set of principles. By doing so, it demonstrates that the attitude of agents with regards to each other (selfish or altruistic) changes the decisions they reach, and that it is very important to take this into account. To illustrate ADT, it is then applied to two major anthropic problems and paradoxes, the Presumptuous Philosopher and Doomsday problems, thus resolving some issues about the probability of human extinction.

연구 동기 및 목표

• 인문학적 확률 할당이 아닌 결정 이론에 초점을 맞춰 오랫동안 남아있던 인문학적 역설—예를 들어 수면 중 미녀 문제—를 해결하기 위해.
• 자기 이익과 이타적 태도의 차이가 인문학적 상황에서 최적의 결정에 근본적인 영향을 미친다는 것을 보여주기 위해.
• 동일한 및 비동일한 에이전트를 포함한 자기소속 믿음 문제를 다룰 수 있는 원칙적이고 최소한의 결정 이론 확장을 제공하기 위해.
• 프리스üm프투어스 필로소퍼 및 도움데이 가정과 같은 역설이 확률이 아닌 결정 이론을 통해 분석될 경우 그 직관에 어긋나는 힘이 사라진다는 것을 보여주기 위해.
• 자기확인적 유틸리티 연결과 결정 일관성 원칙에 기반하여 기존의 인문학적 프레임워크에 대한 실용적 대안으로 ADT를 확립하기 위해.

제안 방법

• 자기소속 믿음 하에서 유틸리티 극대화를 추구하는 선택에 초점을 맞추어 인문학적 확률 계산을 피하는 决定 이론 프레임워크(ADT)를 제안한다.
• 자기확인적 연결을 정의한다—에이전트 간의 결정 상관관계에 대한 믿음으로, 믿어질 경우 참이 되며 ADT의 일관성 기반을 형성한다.
• 시간적 일관성, 외부 정보의 불필요성, 내부 정보의 불필요성 원칙을 적용하여 대칭적인 인문학적 문제에서의 결정을 도출한다.
• 유틸리티 기반의 결정 모델을 사용한다: 자기 이익, 이타적, 총합 유틸리티스트, 평균 유틸리티스트 에이전트는 서로 다른 결과 평가 방식을 가진 별개의 결정 유형으로 간주된다.
• 수면 중 미녀 문제의 인큐베이터 변형에 ADT를 적용하여, 결정이 에이전트가 자신의 복제체의 복지에 얼마나 가치를 두는지에 따라 달라진다는 것을 보여준다.
• 유틸리티 구조에 따라 다른 결정을 보이는 경우를 고려하여 ADT를 프리스üm프투어스 필로소퍼 및 도움데이 문제로 확장한다.

실험 결과

연구 질문

• RQ1 SIA나 SSA와 같은 논란의 여지가 있는 인문학적 확률 가정에 의존하지 않고도 인문학적 문제에서 최적의 결정을 어떻게 도출할 수 있는가?
• RQ2 왜 같은 문제(예: 수면 중 미녀 문제)에서 자기 이익과 이타적 태도에 따라 다른 결정 결과가 도출되는가?
• RQ3 결정 이론에 초점을 맞추면 프리스üm프투어스 필로소퍼 역설이 해결될 수 있는가?
• RQ4 인문학적 확률이 아닌 결정 이론을 통해 분석할 경우 도움데이 가정의 주장—즉, 멸망이 더 가능성 높다는 결론—이 여전히 힘을 가지는가?
• RQ5 총합 유틸리티즘과 평균 유틸리티즘의 유틸리티 구조는 인구 규모와 멸종 위험을 수반하는 인문학적 상황에서 결정에 얼마나 영향을 미치는가?

주요 결과

• ADT는 수면 중 미녀 문제를 해결하며, 정답이 되는 결정은 에이전트가 자기 이익인지 이타적 태도를 취하는지에 따라 달라지며, 이타적 에이전트는 복제체의 복지에 더 높은 가치를 부여함으로써 더 높은 결정 가치를 부여한다는 것을 보여준다.
• 프리스üm프투어스 필로소퍼 문제에서는 이타적 에이전트가 매우 낮은 개인적 확률을 가진 베팅을 합리적으로 수용한다. 왜냐하면 총합 기대 유틸리티가 복제체 수에 비례하기 때문이다. 이로 인해 역설이 사라진다.
• 도움데이 가정의 직관에 어긋나는 결론—즉, 멸망이 더 가능성 높다는 주장—은 ADT 하에서 사라진다. 평균 유틸리티스트 에이전트는 확률이 동일한 경우라도 생존과 관련된 베팅보다 독립적인 사건에 연결된 베팅을 선호하기 때문이다.
• ADT는 SIA 유사 행동과 SSA 유사 행동이 서로 다른 확률 때문이 아니라, 서로 다른 유틸리티 연결 때문임을 보여준다. 이타적 태도는 SIA 유사 결정을 이끌고, 자기 이익은 SSA 유사 결과를 낳는다.
• 이 프레임워크는 인문학적 문제에서 결정이 확률만으로 결정되지 않으며, 에이전트가 자신의 복제체의 복지에 얼마나 가치를 두는지에 따라 달라진다는 것을 보여주며, 유틸리티 일치가 핵심 요소가 됨을 입증한다.
• ADT는 확률 기반 인문학적 추론의 함정을 피할 수 있는 일관된 결정 프레임워크를 제공하며, 특히 대규모 인구나 자기복제 에이전트를 포함한 상황에서 효과적이다.