[논문 리뷰] I Don't Want to Think About it Now:Decision Theory With Costly Computation

Joseph Y. Halpern, Rafael Pass|arXiv (Cornell University)|2011. 06. 14.

Bayesian Modeling and Causal Inference참고 문헌 26인용 수 15

한 줄 요약

이 논문은 계산 비용을 고려하여 에이전트가 복잡도(예: 실행 시간, 공간, 알고리즘 난이도)가 유틸리티에 영향을 주는 튜링 기계를 선택하도록 모델링하는 决책 이론 프레임워크를 제안한다. 계산 제약 조건을 통해 신념 극화와 상태 유지 편향과 같은 현상을 형식화하고, 계산 정보의 가치와 대화의 계산적 가치와 같은 새로운 개념을 정의하며, 제로지식 증명의 가치가 계산 속도 향상에 의해 제한됨을 보여준다.

ABSTRACT

Computation plays a major role in decision making. Even if an agent is willing to ascribe a probability to all states and a utility to all outcomes, and maximize expected utility, doing so might present serious computational problems. Moreover, computing the outcome of a given act might be difficult. In a companion paper we develop a framework for game theory with costly computation, where the objects of choice are Turing machines. Here we apply that framework to decision theory. We show how well-known phenomena like first-impression-matters biases (i.e., people tend to put more weight on evidence they hear early on), belief polarization (two people with different prior beliefs, hearing the same evidence, can end up with diametrically opposed conclusions), and the status quo bias (people are much more likely to stick with what they already have) can be easily captured in that framework. Finally, we use the framework to define some new notions: value of computational information (a computational variant of value of information) and and computational value of conversation.

연구 동기 및 목표

• 에이전트를 복잡도가 관련된 튜링 기계로 선택하는 방식으로 모델링하여 계산 비용을 형식화한 결정 이론을 제시한다.
• 첫인상 중요성, 신념 극화, 상태 유지 편향과 같은 잘 알려진 행동 편향을 계산 제약 조건을 통해 설명한다.
• 새로운 결정 이론 개념인 계산 정보의 가치와 대화의 계산적 가치를 도입하고 형식화한다.
• 제로지식 증명에 참여하는 가치가 계산 속도 향상의 가치에 의해 제한됨을 보여준다.
• 알고리즘 출력과 실행 시간에 대한 불확실성을 고려한 규범적 결정 이론을 확장하며, 계산 한계로 인해 수학적 진리가 불확실한 '불가능한 가능성 세계'까지 포함한다.

제안 방법

• 각 튜링 기계(TM)가 관련된 복잡도와 출력 품질을 갖는 것으로 간주하여 결정을 튜링 기계 선택으로 모델링한다.
• 유틸리티를 지ay와 계산 복잡도의 함수로 정의하여 정확성과 비용 간의 트레이드오프를 가능하게 한다.
• 상태에 따라 변하는 유틸리티 및 복잡도 함수를 도입하여, 수학적으로 고정되어 있더라도 튜링 기계의 행동과 실행 시간에 대한 불확실성을 모델링한다.
• 복잡도에 대한 단조성 조건을 적용: 복잡도가 높을수록 유틸리티가 감소하여 계산 회피 성향을 반영한다.
• 계산 정보의 가치를 개선된 계산 도구 확보로 인한 기대 유틸리티 증가로 정의하며, 이는 계산적 맥락에서의 정보 가치와 유사하다.
• 프레임워크를 제로지식 증명 시스템에 적용하여, 그 가치가 계산 속도 향상의 가치에 의해 제한됨을 보여준다.

실험 결과

연구 질문

• RQ1 계산 비용을 결정 이론에 어떻게 형식화할 수 있으며, 이를 통해 행동 편향을 설명할 수 있는가?
• RQ2 사람들이 왜 첫인상 중요성 편향을 보이며, 이는 계산 제약 조건으로 어떻게 설명될 수 있는가?
• RQ3 서로 다른 사전 확률을 가진 두 에이전트가 동일한 증거를 听고도 반대 결론에 도달하는 신념 극화 현상은 계산 제약이 있는 프레임워크에서 어떻게 모델링될 수 있는가?
• RQ4 정보 가치의 계산적 대응은 무엇이며, 전통적 정보 가치와 어떻게 다를 수 있는가?
• RQ5 상태 유지 편향은 계산 비용이 결정에 영향을 주는 결과로 형식화될 수 있는가?

주요 결과

• 에이전트가 계산 비용 제약으로 인해 초기에 처리된 정보에 더 높은 가중치를 부여함으로써 첫인상 중요성 편향이 자연스럽게 발생한다.
• 다른 사전 확률을 가진 에이전트들이 동일한 증거를 계산 제약이 있는 추론 방식으로 처리할 경우, 서로 다른 결론에 도달하게 되어 신념 극화가 발생한다.
• 기존 계산에서 새로운 계산으로 전환하는 데 비용이 발생하므로, 상태 유지 편향은 비용이 발생하는 전환을 피하려는 경향에서 기인한다.
• 계산 정보의 가치는 개선된 계산 도구를 확보함으로써 얻는 기대 유틸리티 증가로 정의되며, 실제로 발생하는 계산 속도 향상의 가치에 의해 제한된다.
• 제로지식 증명 시스템에서 증명에 참여하는 가치는 항상 해당 계산 속도 향상의 가치 이하이며, 이는 정리 3.6에 의해 형식화되어 있다.
• 이 프레임워크는 계산 불확실성을 결정 모델의 일부로 간주함으로써 '불가능한 가능성 세계'—예를 들어, 수학적으로 소수임에도 불구하고 소수가 아니라고 믿는 세계—를 모델링할 수 있다.