[논문 리뷰] Quantal Response Equilibrium as a Measure of Strategic Sophistication: Theory and Validation for LLM Evaluation

Mateo Pechon-Elkins, Jon Chun|arXiv (Cornell University)|2026. 02. 25.

Explainable Artificial Intelligence (XAI)인용 수 0

한 줄 요약

논문은 네 가지 축에서 LLM의 한정 합리성을 정량화하기 위한 게임 이론적 프레임워크(GToM-Bench)를 Quantal Response Equilibrium를 이용해 도입하고, 수렴 보장 및 인간 데이터에 대한 보정으로 검증합니다.

ABSTRACT

Theory of Mind benchmarks for large language models typically produce aggregate scores without theoretical grounding, making it unclear whether high performance reflects strategic reasoning or surface-level heuristics. We introduce a game-theoretic evaluation framework grounded in quantal response equilibrium (QRE). We derive closed-form equilibria for four strategic games, each targeting a distinct cognitive capability. We estimate QRE rationality parameters lambda that place model behavior on a continuous scale calibrated against human data (lambda_human in [1.0, 2.5]), and establish finite-sample convergence bounds via martingale concentration. Validation across 1,855 games with seven frontier models (plus four expansion models) confirms predictions: bluff rates converge to within 4% of equilibrium, lambda estimates range from 0.05 to 1.10 across games and models with substantial cross-model variation, and capability profiles differ across cognitive axes. Robustness analyses reveal high sensitivity to prompt framing and version instability in QRE rankings, highlighting the need for standardized protocols.

연구 동기 및 목표

• 기능적 Theory of Mind(ToM)을 정의하고 ToM 관련 능력을 네 가지 축으로 분해한다.
• QRE를 통한 보정된 인간 벤치마크와 함께 형식적 균형 분석 및 한정 합리성에 기반한 평가를 체계화한다.
• 모델-측정 능력에 대한 수렴 보장과 유한 샘플 경계를 제공한다.
• 1,855개의 게임과 일곱 명의 최전선 LLM들(확장 모델 포함)을 대상으로 경험적 검증을 수행하여 다차원적 ToM 프로필을 밝힌다.]
• method:[

제안 방법

• 네 가지 전략적으로 설계된 게임에 대해 독립적으로 다른 인지 축을 대상으로 하는 닫힌 형식의 균형점을 도출한다.
• Quantal Response Equilibrium로 한정 합리성을 모델링하고, 합리성 매개변수 lambda를 최대우도 추정과 베이지안 사후 추론으로 추정한다.
• Bradley-Terry 모델에서 ELO 스타일 평점의 수렴 결과를 유한 샘플 농도 경계와 함께 증명한다.
• 각 축의 ELO 평점을 사용해 다차원 ToM 능력을 정량화하고 축 간 상관관계를 분석한다.
• lambda를 인간 데이터에 대해 보정하고 사후 평균과 95% HDIs를 보고한다.

Figure 2: Round-by-round equilibrium convergence with 95% CI bands computed from 270 SC and 270 RPD games. (a) Strategic Claim: conditional bluff rate (given $v\leq 3$ ) converges toward $\beta^{*}=0.340$ (exponential fit $\rho=0.81$ , $R^{2}=0.87$ ). (b) Repeated PD: cooperation rate starts high an

실험 결과

연구 질문

• RQ1 QRE 기반의 한정 합리성이 다중 ToM 축에서 LLM의 전략적 정교함을 정량화할 수 있는가?
• RQ2 다중 라운드 설정에서 LLM이 게임 이론적 균형으로 수렴하는가?
• RQ3 최전선 LLM에서 축별 ToM 능력은 서로 어떤 상관이나 상충 관계를 보이는가?
• RQ4 프롬프트 프레이밍과 모델 버전 변화에 대해 QRE 유도 순위가 강건한가?
• RQ5 축별 ELO 기반 평가가 총 ToM 점수 이상의 구별 타당성을 제공하는가?

주요 결과

• 속임수 및 협력 과제에서 블루핑(블러핑)과 협력으로의 수렴이 관찰되며, 블러핑 비율은 균형점에서 4% 이내이고 반복 PD에서 70%의 지속 협력이 나타난다.
• 게임과 모델 전반에 걸쳐 추정된 lambda 값은 0.05에서 1.10 사이이며, 모델 간 가변성과 인간 벤치마크(lambda_human은 [1.0,2.5] 범위)에 의해 차이가 있다.
• 축별 ELO 평점은 다차원적 ToM 프로필을 드러내며, ESM과 RSR 간의 강한 음의 상관(r=-0.95)과 RSR과 RSM 간의 강한 음의 상관(r=-0.82)이 관찰된다.
• 프롬프트 프레이밍 및 버전 불안정성은 QRE 순위에 유의미한 영향을 미쳐 표준화된 평가 프로토콜의 필요성을 강조한다.
• 이론적 예측 다섯 가지 중 1,855개의 게임에서 실험적으로 확인된 게 다섯 가지로서 수렴, beta*에 대한 4% 근접성, 70% 협력, 지수적 수렴, 그리고 충분한 부트스트랩 정밀도를 포함한다.

Figure 3: Per-model convergence trajectories in Strategic Claim showing heterogeneous learning rates. Contraction factor $\rho$ estimated via exponential fit on conditional bluff rate (given $v\leq 3$ ). Dashed lines show exponential fit overlays.