[논문 리뷰] Information vs. Uncertainty as the Foundation for a Science of Environmental Modeling

Grey Nearing, Hoshin V. Gupta|arXiv (Cornell University)|2017. 04. 25.

Hydrological Forecasting Using AI참고 문헌 35인용 수 4

한 줄 요약

이 논문은 환경 모델링의 기초로 불확실성 정량화 대신 정보 이론을 사용해야 한다고 주장하며, 모델의 불확실성 평가에서 모델 개선을 위한 실질적 정보가 데이터에 포함되어 있는지 평가하는 데로의 전환을 제안한다. 가설 검증을 정보 수확에 기반하여 재정의함으로써, 전통적 및 베이지안 검증 방식의 모순을 해결하고, 과정 수준의 진단 기능을 가능하게 하며, 환경 과학에서의 경험적 학습을 위한 엄밀한 논리 체계를 수립한다.

ABSTRACT

Information accounting provides a better foundation for hypothesis testing than does uncertainty quantification. A quantitative account of science is derived under this perspective that alleviates the need for epistemic bridge principles, solves the problem of ad hoc falsification criteria, and deals with verisimilitude by facilitating a general approach to process-level diagnostics. Our argument is that the well-known inconsistencies of both Bayesian and classical statistical hypothesis tests are due to the fact that probability theory is an insufficient logic of science. Information theory, as an extension of probability theory, is required to provide a complete logic on which to base quantitative theories of empirical learning. The organizing question in this case becomes not whether our theories or models are more or less true, or about how much uncertainty is associated with a particular model, but instead whether there is any information available from experimental data that might allow us to improve the model. This becomes a formal hypothesis test, provides a theory of model diagnostics, and suggests a new approach to building dynamical systems models.

연구 동기 및 목표

• 환경 모델링 내에서 전통적 및 베이지안 가설 검증 방식의 근본적인 모순을 해결하기 위해.
• 모델 평가의 기초로 불확실성 정량화를 대체하기 위해 정보 회계를 도입하기 위해.
• 경험적 학습과 모델 개선을 지원하는 정보 이론에 기반한 과학의 논리 체계를 수립하기 위해.
• 모델 진단에서의 임의의 가정 기반의 기각 기준과 인지적 다리 원칙을 제거하기 위해.
• 데이터의 정보 내용을 활용하여 일반적이고 과정 수준의 모델 성능 평가 방법을 개발하기 위해.

제안 방법

• 정보 이론을 확률 이론의 연장선으로 삼아 과학적 추론을 위한 완전한 논리 체계를 형성한다.
• 모델 평가를 데이터가 모델 개선을 위한 정보를 담고 있는지 여부에 대한 형식적 가설 검증으로 재정의한다.
• 정보 이론적 측정치(예: 상호정보량)를 사용하여 데이터의 모델 정교화에 대한 관련성을 정량화한다.
• 모델 구성 요소 간의 정보 수확에 기반한 진단 프레임워크를 도입하여 과정 수준의 정확도를 평가한다.
• 불확실성 기반 지표를 정보 기반 진단으로 대체하여 모델 학습 잠재력 평가를 수행한다.
• 프레임워크를 동적 시스템 모델링에 적용하여 데이터 기반의 반복적 모델 개선을 강조한다.

실험 결과

연구 질문

• RQ1 불확실성 정량화에 의존하지 않고도 환경 모델링에서의 가설 검증을 어떻게 일관적이고 엄밀하게 만들 수 있는가?
• RQ2 정보 이론은 전통적 통계적 검증의 인지적 및 논리적 모순을 어떻게 해결하는가?
• RQ3 모델의 불확실성 대신 데이터로부터 학습하는지 여부로 모델을 평가할 수 있는가?
• RQ4 정보 측정치를 활용하여 정보 이론에 의해 가능해지는 일반화된 과정 수준의 진단 기능을 환경 모델 간에 어떻게 일반화할 수 있는가?
• RQ5 진실성이나 불확실성보다 정보 수확을 우선시하는 환경 모델링 과학의 이론적 기초는 무엇인가?

주요 결과

• 불확실성 정량화보다 정보 회계가 가설 검증에 더 일관된 기초를 제공한다.
• 모델 평가를 정보 수확에 기반시킴으로써 임의의 가정 기반의 기각 기준이 더 이상 필요 없어진다.
• 일반적으로 모델과 관측치를 연결하는 데 사용되는 인지적 다리 원칙은 정보 기반 프레임워크 하에서는 더 이상 필요하지 않다.
• 정보 이론 덕분에 일반적이고 과정 수준의 진단 접근 방식을 통해 진실성(Verisimilitude) 문제가 해결된다.
• 확률 이론에만 기반한 경우, 전통적 및 베이지안 가설 검증이 논리적으로 모순됨을 입증한다.
• 정보 이론이 확률 이론을 확장함으로써 환경 모델링을 위한 과학의 완전한 논리 체계가 도출된다.