[논문 리뷰] The Future of Fundamental Science Led by Generative Closed-Loop Artificial Intelligence

Héctor Zenil, Jesper Tegnér외 18명|arXiv (Cornell University)|2023. 07. 09.

Scientific Computing and Data Management인용 수 11

한 줄 요약

이 관점은 현재의 AI 응용을 넘어 기본 설명 모델을 발견하기 위한 가설을 생성하고 실험을 수행하며 근본적인 설명 모델을 밝히는 AI 주도의 자동화된 생성적 폐쇄 루프 과학 탐구에 대한 비전을 제시한다.

ABSTRACT

Recent advances in machine learning and AI, including Generative AI and LLMs, are disrupting technological innovation, product development, and society as a whole. AI's contribution to technology can come from multiple approaches that require access to large training data sets and clear performance evaluation criteria, ranging from pattern recognition and classification to generative models. Yet, AI has contributed less to fundamental science in part because large data sets of high-quality data for scientific practice and model discovery are more difficult to access. Generative AI, in general, and Large Language Models in particular, may represent an opportunity to augment and accelerate the scientific discovery of fundamental deep science with quantitative models. Here we explore and investigate aspects of an AI-driven, automated, closed-loop approach to scientific discovery, including self-driven hypothesis generation and open-ended autonomous exploration of the hypothesis space. Integrating AI-driven automation into the practice of science would mitigate current problems, including the replication of findings, systematic production of data, and ultimately democratisation of the scientific process. Realising these possibilities requires a vision for augmented AI coupled with a diversity of AI approaches able to deal with fundamental aspects of causality analysis and model discovery while enabling unbiased search across the space of putative explanations. These advances hold the promise to unleash AI's potential for searching and discovering the fundamental structure of our world beyond what human scientists have been able to achieve. Such a vision would push the boundaries of new fundamental science rather than automatize current workflows and instead open doors for technological innovation to tackle some of the greatest challenges facing humanity today.

연구 동기 및 목표

• AI가 현재의 워크플로를 보조하는 수준에서 벗어나 새로운 과학 법칙을 발견하도록 발전해야 할 필요성을 제고한다.
• 실험실 자동화와 결합된 폐쇄 루프의 자율 프레임워크를 제안하여 엔드 투 엔드 과학적 탐구를 수행한다.
• 생성적 AI와 LLM이 고수준 추측을 자동화된 루프 내의 계산 가능한 모듈로 변환하는 방법을 논의한다.
• 인과성, 설명가능성, 재현성, 거버넌스 등 AI 주도 과학의 도전과제를 다룬다.

제안 방법

• 가설 생성, 모델 구축, 실험, 지식 통합을 포함하는 AI 주도 과학 탐구를 위한 형식적 폐쇄 루프 반복 사이클을 제안한다.
• 투명하고 해석 가능한 표현과 잠재적 법칙을 밝히기 위해 인과 분석과 생성 모델링의 통합을 주장한다.
• 고수준 추측을 루프 내 계산 가능한 구성 요소로 분해하기 위해 LLM과 GenAI 활용을 제안한다.
• 지식 표현과 에이전트 상호 작용을 관리하기 위한 인간-AI 협력과 메타-AI 전략의 필요성을 강조한다.
• 제안된 프레임워크를 더 광범위한 궤도에 위치시키기 위한 역사적 맥락과 선행 AI-과학 연구를 논의한다.

실험 결과

연구 질문

• RQ1 과학에서 새로운 기본적 설명 모델을 발견하기 위해 AI 주도 폐쇄 루프 시스템에 필요한 것은 무엇인가?
• RQ2 생성적 AI, LLM, 그리고 기호적/인과적 방법을 어떻게 통합하여 해석 가능하고 검증 가능한 과학적 가설을 생산할 수 있는가?
• RQ3 자율 AI 주도 과학을 가능하게 하기 위해 어떤 거버넌스, 재현성, 신뢰 이슈를 다루어야 하는가?
• RQ4 과학 탐구의 다양한 주기에서 인간과 AI가 어떤 역할을 해야 발견성과 신뢰성을 극대화할 수 있는가?

주요 결과

• 폐쇄 루프 프레임워크에 내재된 AI는 관찰, 가설 생성, 실험, 문헌 통합의 주기를 자동화할 수 있다.
• 현대 AI 접근법은 기본적 발견에 필요한 고수준 추상화와 인과 추론 메커니즘이 부족하다; 생성적 및 기호적 방법의 통합이 이 격차를 해소할 수 있다.
• LLMs는 인간 연구 목표를 루프 내의 모듈식이고 계산 가능한 작업으로 번역하는 인터페이스 및 중개자 역할을 할 수 있다.
• 활발한 학습과 인과 분석은 AI 주도 과학에서 데이터 편향, 과적합, 모델 붕괴를 피하는 데 필수적이다.
• 협력적 인간- AI 접근 방식은 더 빠른 발견, 더 높은 재현성, 그리고 과학 실천의 민주화를 가져올 수 있다.