[논문 리뷰] The Hidden Fragility of Complex Systems -- Consequences of Change, Changing Consequences

James P. Crutchfield|arXiv (Cornell University)|2020. 03. 24.

Complex Systems and Time Series Analysis참고 문헌 18인용 수 23

한 줄 요약

이 논문은 복잡한 사회기술 시스템에서의 '은폐된 취약성' 개념을 제시한다. 이는 시스템의 구조적 복잡성과 빠른 변화의 뜻하지 않은 결과로 인해 발생한다. 크러치필드는 시스템이 더욱 정교해질수록 연쇄적 종속성으로 인해 장기적 복원력이 감소하기 때문에, 단기적으로는 안정해 보이지만 예측과 통제가 점점 어려워진다고 주장한다.

ABSTRACT

Short-term survival and an exuberant plunge into building our future are generating a new kind of unintended consequence -- hidden fragility. This is a direct effect of the sophistication and structural complexity of the socio-technical systems humans create. It is inevitable. And so the challenge is, How much can we understand and predict about these systems and about the social dynamics that lead to their construction?

연구 동기 및 목표

• 증가하는 구조적 복잡성으로 인해 현대 사회기술 시스템에서 '은폐된 취약성'이 어떻게 발생하는지 식별하고 분석하는 것.
• 동적 상호의존성으로 인해 발생하는 장기적 취약성이 단기적 안정성에 의해 가려지는 방식을 이해하는 것.
• 사회적 동향과 인간의 의사결정 과정이 연쇄 고장을 일으킬 수 있는 취약한 시스템 구조를 어떻게 만드는지 분석하는 것.
• 빠른 변화 속에서 복잡한 적응 시스템의 예측 가능성과 통제의 한계를 평가하는 것.
• 공학적 및 사회적 시스템에서 시간이 지남에 따라 변화하는 뜻하지 않은 결과를 이해하는 개념적 프레임워크를 제공하는 것.

제안 방법

• 복잡한 시스템의 행동을 구조적 변화와 행동적 변화 상황에서 모델링하기 위해 통계역학과 비선형 역학 원리를 사용한다.
• 적응형 및 자가조직 시스템의 개념을 적용하여 시스템 수준의 복원력과 고장 전파를 분석한다.
• 개입의 즉각적 효과와 지연된 효과를 구분하면서 시간에 따라 변화하는 결과의 진화를 분석한다.
• 정보이론적 접근과 동역학계 이론을 기반으로 한 이론적 프레임워크를 활용하여 시스템의 취약성을 정량화한다.
• 피드백 루프와 부상하는 종속성에 초점을 맞춘 추상적 모델링을 통해 유사 사례의 시스템 행동을 분석한다.
• 복잡계 물리학의 통찰을 활용하여 사회기술 시스템이 지속적인 변화 속에서 본질적으로 취약하다고 프레임워크화한다.

실험 결과

연구 질문

• RQ1 사회기술 시스템의 구조적 복잡성이 증가함에 따라, 단기적 안정성은 유지하고 있음에도 불구하고 은폐된 취약성이 어떻게 발생하는가?
• RQ2 복잡한 시스템에서 예측할 수 없는 결과가 어떻게 발생하고 시간이 지남에 따라 진화하는가?
• RQ3 빠른 변화를 겪는 시스템의 장기적 행동을 얼마나 정확히 예측하거나 통제할 수 있는가?
• RQ4 사회적 동향과 의사결정 과정이 취약한 시스템 아키텍처를 어떻게 구성하는가?
• RQ5 피드백 루프와 지연된 결과가 시스템 복원력의 약화에 어떤 역할을 하는가?

주요 결과

• 은폐된 취약성은 현대 사회기술 시스템의 정교함과 상호연결성의 직접적인 결과로 나타난다.
• 단기적 생존과 빠른 혁신은 연쇄적 종속성과 지연된 고장 방식으로 인해 장기적 취약성을 가리기 쉽다.
• 복잡한 시스템에서 변화의 결과는 정적인 것이 아니라 시간이 지남에 따라 진화하며, 점점 더 예측하기 어려워진다.
• 시스템 복원력은 단일 고장으로 약화되는 것이 아니라, 상호의존적인 변화가 축적되어 위험이 시간이 지남에 따라 증폭되기 때문에 빛나게 약화된다.
• 논문은 비선형적인 결과 진화로 인해 예측 가능성은 복잡한 시스템에서 본질적으로 제한됨을 입증한다.
• 프레임워크는 단기적으로 안정해 보일 수 있는 시스템이 은폐된 구조적 종속성으로 인해 장기적으로 본질적으로 불안정할 수 있음을 드러낸다.