[논문 리뷰] Robust Misspecified Models and Paradigm Shifts

Cuimin Ba|arXiv (Cornell University)|2021. 06. 24.

Opinion Dynamics and Social Influence인용 수 4

한 줄 요약

이 논문은 에이전트가 임계값을 적용한 베이즈 요인을 기반으로 경쟁 모델 간에 전환하는 모델 전환 프레임워크를 제안한다. 이는 잘못된 모델이 높은 점차적 정확도와 날카로운 사전 분포 덕분에 고착화되어 정확한 모델조차도 뛰어넘을 수 있음을 보여준다. 핵심 기여는 예측 정확도와 평형 결과 주변에 집중된 사전 분포라는 두 가지 기본 요소로 모델의 지속성에 대한 기술을 제공하는 것이다.

ABSTRACT

Individuals use models to guide decisions, but many models are wrong. This paper studies which misspecified models are likely to persist when individuals also entertain alternative models. Consider an agent who uses her model to learn the relationship between action choices and outcomes. The agent exhibits sticky model switching, captured by a threshold rule such that she switches to an alternative model when it is a sufficiently better fit for the data she observes. The main result provides a characterization of whether a model persists based on two key features that are straightforward to derive from the primitives of the learning environment, namely, the model's asymptotic accuracy in predicting the equilibrium pattern of observed outcomes and the 'tightness' of the prior around this equilibrium. I show that misspecified models can be robust in that they persist against a wide range of competing models -- including the correct model -- despite individuals observing an infinite amount of data. Moreover, simple misspecified models with entrenched priors can be even more robust than correctly specified models. I use this characterization to provide a learning foundation for the persistence of systemic biases in two applications. First, in an effort-choice problem, I show that overconfidence in one's ability is more robust than underconfidence. Second, a simplistic binary view of politics is more robust than the more complex correct view when individuals consume media without fully recognizing the reporting bias.

연구 동기 및 목표

• 오랜 기간 잘못된 모델을 사용하는 것에 대한 학습 이론의 격차를 메우기 위해 도그마틱한 모델 사용이 아닌 능동적인 모델 전환을 모델링하고자 한다.
• 무한한 데이터를 관측하고 더 나은 대안이 존재함에도 불구하고 잘못된 모델이 왜 지속되는지 조건을 이해하고자 한다.
• 실제 세계의 맥락, 예를 들어 과신이나 정치적 극단주의와 같은 체계적 편향에 대한 학습 기반을 제공하기 위해 모델 지속성 분석을 수행하고자 한다.
• 점차적 정확도와 평형 결과 주변의 사전 농도라는 두 가지 측정 가능한 기본 요소를 사용하여 모델의 강건성 특성을 기술하고자 한다.
• 고착화된 사전을 지닌 단순한 잘못된 모델이 정확하게 지정된 모델보다 더 강건할 수 있음을 보여주고자 한다.

제안 방법

• 에이전트는 두 모델 간의 전환을 위해 경쟁 모델과 현재 모델을 비교한 베이즈 요인에 기반한 임계값 규칙을 사용한다.
• 에이전트는 현재 모델 내에서 베이지안 업데이트를 통해 신뢰도를 갱신하고, 사후 기대값에 기반해 행동을 선택한다.
• 모델 지속성은 국소적, 전역적, p-흡수적 강건성이라는 세 가지 강건성 개념을 통해 분석되며, p-흡수적 강건성이 장기적 지속성과 중심적인 관련성을 가진다.
• 프레임워크는 자기확인적 균형(SCE)을 목표로 하는 결과 패tern으로 사용하며, 이는 모델의 가정 하에 예측값이 관측된 데이터와 일치하는 경우를 의미한다.
• 이론적 분석을 통해 모델의 예측 정확도와 평형 결과 주변의 사전 집중도 간의 상호작용이 모델 지속성에 미치는 조건을 도출한다.
• 지속성의 강건성을 시험하기 위해 추가적인 DGPs를 포함한 반사적 모델을 구성하였으며, 오고가는 전환 행위가 핵심 결과를 무효화하지 않음을 보였다.

실험 결과

연구 질문

• RQ1 정확한 모델이 존재하고 무한한 수의 데이터 포인트를 관측함에도 불구하고 잘못된 모델이 어떤 조건에서 지속될 수 있는가?
• RQ2 왜 과신이나 이원적 정치적 시각과 같은 단순하고 편향된 모델들이 사실상 잘못되었음에도 불구하고 지속되는가?
• RQ3 베이즈 요인에 대한 임계값으로 제어되는 모델 전환의 끈질성은 장기적으로 모델의 지속성에 어떻게 영향을 미치는가?
• RQ4 평형 결과 주변의 사전 집중도는 모델 강건성 결정에 어떤 역할을 하는가?
• RQ5 잘못된 모델이 정확하게 지정된 모델보다 더 강건할 수 있는가? 만약 그렇다면 어떤 조건에서 가능한가?

주요 결과

• 높은 점차적 정확도와 날카로운 사전 분포 덕분에, 잘못된 모델은 정확한 모델이 존재하고 무한한 데이터 포인트를 관측함에도 불구하고 강건하게 지속될 수 있다.
• 모델이 전역적으로 강건할 조건은 오직 그것이 p-흡수적이며 p-흡수적 자기확인적 균형의 집합 주변에 높은 사전 농도를 지닌 경우에 한해 성립한다.
• 능력에 대한 과신은 노력-선택 문제에서 과소신보다 더 강건한데, 이는 결과 예측의 점차적 정확도가 더 높기 때문이다.
• 사람들이 편향된 보도를 소비하는 상황에서, 정치에 대한 단순한 이원적 시각은 정확하지만 복잡한 시각보다 더 강건하다. 이는 관측된 데이터 패턴과 더 잘 일치하기 때문이다.
• 고착화된 사전을 지닌 단순한 잘못된 모델은 정확하게 지정된 모델보다 더 강건할 수 있으며, 이는 정확성이 지속성을 보장한다는 가정을 도전한다.
• 에이전트가 결국 어떤 모델로 정착하고 그곳에 머무르는 한, 모델 전환이 전혀 발생하지 않는다는 엄격한 정의의 지속성 조건이라도 이론적 결과는 유지된다.