[논문 리뷰] The Limits of Phenomenology: From Behaviorism to Drug Testing and Engineering Design

Yaneer Bar‐Yam|arXiv (Cornell University)|2013. 08. 14.

Complex Systems and Decision Making참고 문헌 8인용 수 4

한 줄 요약

이 논문은 정보 이론을 사용하여 엄격한 경험적 현상학적 접근 방식—예를 들어 행동주의나 이중-blind 약물 시험—이 복잡한 시스템에 대해 조합 폭발로 인해 지수적으로 비실용적이 된다는 것을 증명한다. 핵심 기여는 이론적 모델이 복잡한 시스템을 특성화하는 데 필수적이라는 형식적 불가능성 정리이며, 이는 전면적인 경험적 관찰에 비해 행동을 기술하기 위해 필요한 정보를 크게 줄여준다.

ABSTRACT

It is widely believed that theory is useful in physics because it describes simple systems and that strictly empirical phenomenological approaches are necessary for complex biological and social systems. Here we prove based upon an analysis of the information that can be obtained from experimental observations that theory is even more essential in the understanding of complex systems. Implications of this proof revise the general understanding of how we can understand complex systems including the behaviorist approach to human behavior, problems with testing engineered systems, and medical experimentation for evaluating treatments and the FDA approval of medications. Each of these approaches are inherently limited in their ability to characterize real world systems due to the large number of conditions that can affect their behavior. Models are necessary as they can help to characterize behavior without requiring observations for all possible conditions. The testing of models by empirical observations enhances the utility of those observations. For systems for which adequate models have not been developed, or are not practical, the limitations of empirical testing lead to uncertainty in our knowledge and risks in individual, organizational and social policy decisions. These risks should be recognized and inform our decisions.

연구 동기 및 목표

• 순수한 경험적 현상학적 방법이 입력 조건의 수가 증가함에 따라 요구되는 관찰 수가 지수적으로 증가하기 때문에, 이는 복잡한 시스템을 기술하는 데 근본적으로 한계가 있음을 입증하기 위해.
• 이론적 모델이 이해 복잡한 시스템을 위해 단지 유용한 것이 아니라 필수적임을 입증하기 위해. 생물학적, 사회적, 공학적 시스템을 포함한다.
• 행동주의, 약물 시험, 공학적 검증과 같은 다수의 분야를 정보 이론적 프레임워크에 통합하여 이들의 공통된 인지적 한계를 드러내기 위해.
• 완전한 행동 기술에 필요한 정보 비용을 정량화하고, 입력 조건이 몇 개 이상인 시스템에 대해 실용적 한계를 초월함을 보여주기 위해.
• 이론적 모델이 없이 의사결정이 의학, 정책, 공학 분야에서 완전하지 않은 지식으로 인해 정량화되지 않은 위험을 내포하고 있음을 주장하기 위해.

제안 방법

• 정보 이론을 적용하여 입력 조건과 출력 행동에 따라 시스템 행동을 기술하기 위해 필요한 최소 정보를 모델링한다.
• 시스템 복잡도를 가능한 입력-출력 조합의 수의 로그(밑 2)로 정의하여 공식 $ I_S = 2^{I_C} I_A $ 를 도출한다. 여기서 $ I_C $ 는 입력 복잡도이고 $ I_A $ 는 행동 복잡도이다.
• 시스템 행동의 표 형태 표현을 사용한다: 각 행은 고유한 입력 조건($ 2^{I_C} $ 행)을 나타내며, 각 행은 $ I_A $ 비트로 행동을 기술한다.
• 완전한 경험적 기술에 필요한 총 정보가 입력 복잡도에 따라 지수적으로 증가함을 입증하여, 실제 복잡한 시스템에 대해 실용적이지 않음을 보여준다.
• 과학적 탐구가 단계 $ \tau $ 를 거쳐 점진적으로 조건과 행동을 정밀화하는 동적 진행 모델을 도입한다.
• 이론적 기술이 더 간결하게 존재해야 한다는 따름정리(코로나리)를 유도한다. 이는 전체 경험적 독립성의 가정과 모순된다.

실험 결과

연구 질문

• RQ1 왜 행동주의나 이중-blind 약물 시험과 같은 엄격한 경험적 접근 방식이 복잡한 시스템에 대해 확장되지 못하는가?
• RQ2 완전한 관찰만으로 시스템 행동을 기술하는 데 있어 근본적인 정보 이론적 한계는 무엇인가?
• RQ3 입력 조건의 수가 증가함에 따라 요구되는 관찰 수의 지수적 증가가 심리학, 의학, 공학 분야의 과학적 진전을 어떻게 제한하는가?
• RQ4 이론적 모델은 복잡한 시스템 행동을 기술하기 위한 정보 부담을 경험적 표의 수준 이하로 줄일 수 있는가?
• RQ5 이 정보 이론적 한계는 정책 수립, 의료 허가, 공학적 시스템 검증에 어떤 영향을 미치는가?

주요 결과

• 경험적 관찰을 통해 시스템 행동을 완전히 기술하기 위해 필요한 정보는 $ I_S = 2^{I_C} I_A $ 로 표현되며, 이는 입력 복잡도 $ I_C $ 에 따라 지수적으로 증가한다. 따라서 이는 단순한 시스템 이외에는 실용적이지 않다.
• 인간의 경우 엔트로피(최대 정보량)는 약 $ 10^{31} $ 비트로 추정되며, 문장 입력에 대한 순수한 경험적 행동 기술에 필요한 $ 10^{60} $ 비트보다 훨씬 작다. 이는 더 간결한 이론적 기술이 반드시 존재해야 한다는 것을 증명한다.
• 행동주의나 이중-blind 약물 시험과 같은 경험적 접근 방식은 스스로 지수적 정보 증가를 유도하는 제약을 부과하므로 본질적으로 한계가 있다. 이는 복잡한 시스템에 대해 실용적이지 않다.
• 복잡한 시스템의 반응은 상호 독립적이지 않다. 이는 전체 경험적 표에 필요한 정보보다 시스템의 엔트로피가 낮다는 따름정리에 의해 입증되며, 이는 상호의존성이 효과적인 정보 부담을 감소시킴을 의미한다.
• 이론적 모델이 없이 지식은 항상 불완전하며, 의학, 정책, 공학 분야의 의사결정은 모든 가능한 조건을 고려할 수 없기 때문에 정량화되지 않은 위험을 내포하고 있다.
• 이 프레임워크는 심리학, 생물의학, 공학 분야에서의 한계를 통합적인 인지 기반으로 제공하며, 이론과 실험의 융합이 정보 이론적 제약을 극복하는 데 필수적임을 드러낸다.