[논문 리뷰] A Quantifiable Information-Processing Hierarchy Provides a Necessary Condition for Detecting Agency

Brett J. Kagan, Valentina Baccetti외 4명|arXiv (Cornell University)|2026. 01. 07.

Free Will and Agency인용 수 0

한 줄 요약

이 논문은 에이전시의 필요 정보 선행조건을 식별하기 위한 바텀업(bottom-up) 방식의 세 계층 정보처리 계층을 제안하며, 계층 III(적응적, 자기조절)가 가장 높은 차수로 본다.

ABSTRACT

As intelligent systems are developed across diverse substrates - from machine learning models and neuromorphic hardware to in vitro neural cultures - understanding what gives a system agency has become increasingly important. Existing definitions, however, tend to rely on top-down descriptions that are difficult to quantify. We propose a bottom-up framework grounded in a system's information-processing order: the extent to which its transformation of input evolves over time. We identify three orders of information processing. Class I systems are reactive and memoryless, mapping inputs directly to outputs. Class II systems incorporate internal states that provide memory but follow fixed transformation rules. Class III systems are adaptive; their transformation rules themselves change as a function of prior activity. While not sufficient on their own, these dynamics represent necessary informational conditions for genuine agency. This hierarchy offers a measurable, substrate-independent way to identify the informational precursors of agency. We illustrate the framework with neurophysiological and computational examples, including thermostats and receptor-like memristors, and discuss its implications for the ethical and functional evaluation of systems that may exhibit agency.

연구 동기 및 목표

• 정보 처리 역학을 기반으로 한 substrate에 독립적인 연력 프레임워크를 정의하여 에이전시를 추론한다.
• 메모리와 적응을 점진적으로 포함하는 세 가지 정렬된 정보처리(Class I, II, III)를 도입한다.
• Class III 역학이 시스템 전반에서 진정한 에이전시의 필요(충분하지 않음) 조건을 제공한다고 주장한다.
• 입력의 변환이 클래스 간에 어떻게 일어나는지 보여주기 위한 신경생리학적 및 계산적 예로 Illustrate한다.

제안 방법

• 최소한의 수학적 표현으로 세 가지 정보처리 클래스를 형식적으로 정의: Class I: R(t)=α(t)I(t)+ε(t); Class II: R(t)=T[I(t)]+ε(t) with a fixed transformation T; Class III: R_t=T_t[I_t]+ε_t with adaptive T updated via G based on past outputs.
• Provide case examples: Class I thermostat with exogenous gain modulation, Class II ideal memristor with fixed non-linear transformation, Class III memristive bioreceptor with slow adaptive gain/bias modulation.
• Characterize memory and adaptivity by analyzing input–output trajectories and hysteresis in the IO plane under periodic driving; discuss memory indication via hysteretic loops and adaptation via shifting loops.

Figure 1: Information-processing classes and their relation to memory, adaptivity, and agency.

실험 결과

연구 질문

• RQ1 다양한 기질에서 시스템이 에이전시를 보이게 만드는 정보적 조건은 무엇인가?
• RQ2 메모리와 적응성을 에이전시의 선구 특성으로 포착하는 세 가지 계층의 정보처리 계층이 가능할까?
• RQ3 실제 또는 시뮬레이션된 시스템(온도조절기, 메모리스턴서, 메모리스틱 바이오리셉터)이 각 클래스를 실현하며 IO 동작은 메모리/적응성을 어떻게 반영하는가?
• RQ4 Class III 적응이 필요 조건인가, 충분하지는 않은가?
• RQ5 기질에 독립적인 정량적 측정들이 에이전시 관련 역학과 단순한 행동 능력의 차이를 어떻게 구분할 수 있는가?

주요 결과

• 세 가지 계층 정보처리 계층이 제시되며, Class III(적응적)는 메모리와 자기조절을 포함하고 에이전시의 측정 가능한 선구 조건을 제공한다.
• Class I 시스템은 반응적이고 메모리 없음; Class II 시스템은 고정 연산자를 사용하여 입력을 변환; Class III 시스템은 과거의 히스토리에 따라 시간에 따라 변환 규칙을 적응한다.
• 케이스 연구(온도조절기, 이상적 메모리스턴서, 메모리스틱 바이오리셉터)는 메모리 없는 정보처리에서 메모리 가능으로, 그리고 적응적으로 변조하는 정보처리로의 진행을 보여준다.
• IO-평면 궤적에서 메모리는 히스테레시스 루프로 나타나 Class I에서 Class III로 갈수록 복잡도가 증가하며, Class III에서 루프의 이동·변형으로 적응이 입증된다.
• 이 프레임워크는 기질에 독립적인 정량적 접근으로 에이전시의 정보적 선구 조건을 식별하게 해주며, 이는 진정한 에이전시의 필요 조건임을 인정한다(충분하지 않음).

Figure 2: First-order thermostat response to a square wave: instantaneous, proportional switching between two fixed output levels; no memory or adaptation.