[논문 리뷰] A Model of Artificial Jagged Intelligence

Joshua Gans|arXiv (Cornell University)|2026. 01. 12.

Advanced Bandit Algorithms Research인용 수 0

한 줄 요약

본 논문은 지역적 신뢰성의 이질성이 작업 간에 다르고 채택은 발견 가능성, 보정, 숙련도에 의존하며 평균 성능뿐만 아니라 영향을 받는 AI의 jaggedness(AJI)에 관한 경제 모델을 제시합니다.

ABSTRACT

Generative AI systems often display highly uneven performance across tasks that appear ``nearby'': they can be excellent on one prompt and confidently wrong on another with only small changes in wording or context. We call this phenomenon Artificial Jagged Intelligence (AJI). This paper develops a tractable economic model of AJI that treats adoption as an information problem: users care about \emph{local} reliability, but typically observe only coarse, global quality signals. In a baseline one-dimensional landscape, truth is a rough Brownian process, and the model ``knows'' scattered points drawn from a Poisson process. The model interpolates optimally, and the local error is measured by posterior variance. We derive an adoption threshold for a blind user, show that experienced errors are amplified by the inspection paradox, and interpret scaling laws as denser coverage that improves average quality without eliminating jaggedness. We then study mastery and calibration: a calibrated user who can condition on local uncertainty enjoys positive expected value even in domains that fail the blind adoption test. Modelling mastery as learning a reliability map via Gaussian process regression yields a learning-rate bound driven by information gain, clarifying when discovering ``where the model works'' is slow. Finally, we study how scaling interacts with discoverability: when calibrated signals and user mastery accelerate the harvesting of scale improvements, and when opacity can make gains from scaling effectively invisible.

연구 동기 및 목표

• 지식 노동 환경에서 로컬 신뢰성 이질성이 AI 채택과 생산성에 미치는 영향을 설명한다.
• 포아송 지식 포인트 프로세스와 브라운 운동으로 표현된 진실 지형을 결합한 해석 가능한 기초 모형을 도입한다.
• 맹목적 사용하에서의 채택 임계값을 도출하고, 경험적 오류에서의 검사 역설의 역할을 분석한다.
• 확장(더 촘촘한 지식 커버리지)과 보정이 복지와 jaggedness의 악화 효과를 어떻게 바꾸는지 연구한다.
• 숙련도와 인터페이스 설계가 원시 모델 개선을 보완하여 생산적인 인간–AI 협업에 어떻게 기여하는지를 밝힌다.

제안 방법

• 지식 포인트를 커버리지 밀도 λ를 갖는 포아송 포인트 프로세스로 모델링한다.
• 지식 포인트 간의 거친 보간 위험을 생성하기 위해 Y(x)를 브라운 운동으로 표현한다.
• 인접 지식 포인트 사이의 보간에 대한 후방 분산 sigma^2(x)를 계산한다. sigma^2(x) = (x-x_i)(x_{i+1}-x)/(x_{i+1}-x_i).
• 사용자 보상 U(x) = 1 - sigma^2(x)/q로 정의하고 맹목적 사용(외부 선택지 0) 하에서의 채택을 분석한다.
• 맹목적 채택에서의 채택 임계값 도출: q >= 1/(3 lambda) (동일하게 R >= 1, R = 3 lambda q).
• 사용자가 sigma^2(x)를 관찰하는 벤치마크로 보정을 도입하고, R에 의존하는 양의 가치 U_C(R)을 보인다고 제시한다.

실험 결과

연구 질문

• RQ1 로컬 수준의 작업별 신뢰성 이질성이 불투명성 하에서 AI 채택과 복지에 어떤 영향을 미치는가?
• RQ2 작업별 신뢰성 신호 없이 사용자가 AI에 의존할 때의 채택 임계값은 무엇인가?
• RQ3 스케일링(더 촘촘한 커버리지, 더 큰 λ)이 기대 오차와 jaggedness를 어떻게 바꾸는가?
• RQ4 보정이나 숙련도가 AJI 하에서 AI 보조의 가치와 채택에 어떤 변화를 일으키는가?
• RQ5 생산성 향상을 위해 스케일링, 보정, 숙련도 사이의 보완성이나 대체관계는 무엇인가?

주요 결과

• 맹목적 채택은 R = 3 lambda q가 적어도 1일 때만 최적일 수 있다.
• 스케일링(λ 증가)은 국부 후방 분산을 감소시키지만 jaggedness의 형태는 지속된다.
• 보정은 jaggedness를 옵션 가치로 전환하여 맹목적 사용에 비해 긍정적 복지 이득을 가져온다.
• 숙련도는 정보 이득에 의해 지배되는 학습 속도를 산출한다; 모델이 작동하는 영역에서의 학습은 고차원 공간에서 느릴 수 있다.
• 보완 관계가 존재한다: 채택 임계값에 따라 스케일링과 보정/숙련도는 상호 대체 또는 보완이 될 수 있으며, 인터페이스 설계는 전체 모델 개선 없이 발견 가능성을 돕는다.
• 모형은 검사 역설을 강조한다: 지식 포인트 간의 간격이 길어질수록 사용자가 더 많은 시간을 보내므로 경험적 오류가 확대된다.