[논문 리뷰] On scientific understanding with artificial intelligence

Mario Krenn, Robert Pollice외 10명|arXiv (Cornell University)|2022. 04. 04.

Scientific Computing and Data Management인용 수 13

한 줄 요약

이 논문은 인공지능이 계산적 현미경, 영감의 원천, 궁극적으로는 자율적 이해 주체로서 기능함으로써 과학적 이해를 달성할 수 있는 프레임워크를 제안한다. 과학적 개념을 인간에게 진정한 통찰을 전달할 수 있는 방식으로 설명할 수 있는지 평가하기 위해 터링 테스트 유사 기준인 과학적 이해 테스트를 도입한다.

ABSTRACT

Imagine an oracle that correctly predicts the outcome of every particle physics experiment, the products of every chemical reaction, or the function of every protein. Such an oracle would revolutionize science and technology as we know them. However, as scientists, we would not be satisfied with the oracle itself. We want more. We want to comprehend how the oracle conceived these predictions. This feat, denoted as scientific understanding, has frequently been recognized as the essential aim of science. Now, the ever-growing power of computers and artificial intelligence poses one ultimate question: How can advanced artificial systems contribute to scientific understanding or achieve it autonomously? We are convinced that this is not a mere technical question but lies at the core of science. Therefore, here we set out to answer where we are and where we can go from here. We first seek advice from the philosophy of science to understand scientific understanding. Then we review the current state of the art, both from literature and by collecting dozens of anecdotes from scientists about how they acquired new conceptual understanding with the help of computers. Those combined insights help us to define three dimensions of android-assisted scientific understanding: The android as a I) computational microscope, II) resource of inspiration and the ultimate, not yet existent III) agent of understanding. For each dimension, we explain new avenues to push beyond the status quo and unleash the full power of artificial intelligence's contribution to the central aim of science. We hope our perspective inspires and focuses research towards androids that get new scientific understanding and ultimately bring us closer to true artificial scientists.

연구 동기 및 목표

• 고도로 발전한 AI 시스템이 단순한 예측을 넘어서 개념적 통찰을 제공함으로써 과학적 이해에 기여하는 방식을 정의하는 것.
• AI 시스템이 과학적 현상에 진정으로 이해하고 있는지 여부를 판단하는 철학적 및 실용적 과제를 해결하는 것.
• AI가 인간 학습자에게 과학적 이해를 전달할 수 있는지 평가할 수 있는 검증 가능한 기준—터링 테스트를 모델로 삼은—을 개발하는 것.
• 경험적 사례와 이론적 프레임워크를 융합함으로써 계산 과학, 인공지능, 과학 철학 간 격차를 메우는 것.
• 자율적 과학적 탐구와 설명이 가능한 '안드로이드 과학자'를 창출하기 위한 비전도를 그려내는 것.

제안 방법

• 데그레트와 다이크스의 과학적 이해 철학 이론을 바탕으로, 진정한 과학적 이해의 기준을 설정한다.
• 화학, 물리학, 생물학 분야의 과학자들로부터 수십 건의 직접적 사례 기반 인터뷰 기록을 수집하고 분석하여 AI 도구가 개념적 돌파구를 이끌어낸 방식을 분석한다.
• AI의 과학적 이해에서의 역할을 세 가지 차원으로 분류한다: (I) 계산적 현미경, (II) 영감의 자원, (III) 이해의 주체.
• 터링 테스트를 모델로 삼은 새로운 테스트—과학적 이해 테스트—를 제안한다. 이 테스트는 인간 학생이 교사(인간 또는 AI)와 상호작용하고, 심사위원이 설명의 품질을 평가한다.
• 교사의 설명이 비트리비얼하고, 일관되며, 다양한 맥락으로 확장 가능한지 평가함으로써 진정한 이해 여부를 판단한다.
• 미래의 AI 시스템이 고도의 자연어 처리와 인간-컴퓨터 상호작용을 활용하여 과학적 대화와 설명에 참여할 수 있도록 프레임워크를 설계한다.

실험 결과

연구 질문

• RQ1 인공지능 시스템은 수치 예측을 넘어서 과학적 이해에 어떻게 기여할 수 있는가?
• RQ2 AI가 과학적 이해를 발전시키는 데서 수행할 수 있는 세 가지 구체적 역할은 무엇이며, 각 역할은 어떻게 실현될 수 있는가?
• RQ3 AI 시스템이 진정으로 과학적 이해에 도달했는지 판단하기 위한 기준은 무엇인가?
• RQ4 인간 학습자가 과학적 이해를 전달받을 수 있도록 AI를 평가할 수 있는 테스트는 어떻게 설계할 수 있는가?
• RQ5 AI가 진정한 과학적 이해 주체가 되기 위해 필요한 기술적 및 다학제적 발전은 무엇인가?

주요 결과

• AI 시스템은 복잡한 데이터 속의 숨겨진 패턴을 드러내어 과학자들이 이전에 접근할 수 없었던 현상을 관찰할 수 있도록 도와주는 계산적 현미경으로 기능할 수 있다.
• AI는 새로운 가설과 개념적 프레임워크를 생성함으로써 인간의 과학적 탐구를 이끄는 강력한 영감의 자원으로 기능한다.
• 과학적 이해 테스트는 인간 중심의 실용적 기준을 제공하여 AI가 과학적 개념을 인간에게 통찰을 전달할 수 있는 방식으로 설명할 수 있는지 평가할 수 있다.
• 이 테스트는 인간이 인간 전문가의 설명과 AI 교사의 설명을 구별할 수 없는 경우, AI가 과학적 이해에 도달했다고 간주하도록 설계되어 있다.
• AI의 진정한 과학적 이해는 정확한 예측 능력이 아니라, 인간에게 개념적으로 의미 있는 방식으로 설명하고 추론하며 통찰을 전달할 수 있는 능력에 기반한다.
• 저자들은 향후 발전을 위해 자연과학자, 컴퓨터 과학자, 과학 철학자 간 깊은 협력이 필요하다고 주장한다. 이는 자율적이고 이해 능력을 지닌 AI 주체를 실현하기 위함이다.