[論文レビュー] On scientific understanding with artificial intelligence

Mario Krenn, Robert Pollice+10 more|arXiv (Cornell University)|Apr 4, 2022

Scientific Computing and Data Management被引用数 13

ひとこと要約

本論文は、人工知能（AI）が計算的顕微鏡、インスピレーションの源、最終的には自立的理解の主体として機能することで、科学的理解に到達するためのフレームワークを提案する。また、AIが人間に真の洞察をもたらす形で科学的概念を説明できるかどうかを評価する、チューリングテストに類似したベンチマーク「科学的理解テスト」を導入する。

ABSTRACT

Imagine an oracle that correctly predicts the outcome of every particle physics experiment, the products of every chemical reaction, or the function of every protein. Such an oracle would revolutionize science and technology as we know them. However, as scientists, we would not be satisfied with the oracle itself. We want more. We want to comprehend how the oracle conceived these predictions. This feat, denoted as scientific understanding, has frequently been recognized as the essential aim of science. Now, the ever-growing power of computers and artificial intelligence poses one ultimate question: How can advanced artificial systems contribute to scientific understanding or achieve it autonomously? We are convinced that this is not a mere technical question but lies at the core of science. Therefore, here we set out to answer where we are and where we can go from here. We first seek advice from the philosophy of science to understand scientific understanding. Then we review the current state of the art, both from literature and by collecting dozens of anecdotes from scientists about how they acquired new conceptual understanding with the help of computers. Those combined insights help us to define three dimensions of android-assisted scientific understanding: The android as a I) computational microscope, II) resource of inspiration and the ultimate, not yet existent III) agent of understanding. For each dimension, we explain new avenues to push beyond the status quo and unleash the full power of artificial intelligence's contribution to the central aim of science. We hope our perspective inspires and focuses research towards androids that get new scientific understanding and ultimately bring us closer to true artificial scientists.

研究の動機と目的

• 高度なAIシステムが、単なる予測を超えて概念的洞察をもたらす形で科学的理解に貢献する方法を定義すること。
• AIシステムが科学的現象を真正に理解しているかどうかを判断する、哲学的かつ実践的な課題に取り組むこと。
• AIが人間に科学的理解を伝える能力を有するかどうかを評価できる、テスト可能なベンチマーク（チューリングテストにインspired）を構築すること。
• 経験的エピソードと理論的枠組みを統合することで、計算科学、AI、科学の哲学の間のギャップを埋めること。
• 自立的科学的発見と説明が可能な「アンドロイド科学者」を実現するためのロードマップを策定すること。

提案手法

• 科学的理解の哲学的理論（例：De Regt & Dieks）を基盤とし、真の科学的理解の基準を確立する。
• 化学、物理学、生物学の分野における科学者たちがAIツールによって概念的ブレークスルーを達成した、数十件の第一手記述を収集・分析する。
• AIの科学的理解における役割を、以下の3つの次元に分類する：(I) 計算的顕微鏡、(II) インスピレーションの資源、(III) 理解の主体。
• チューリングテストを模倣した、画期的なテスト「科学的理解テスト」を提案する。このテストでは、人間の学生が教師（人間またはAI）と対話し、審査官が説明の質を評価する。
• 教師の説明が非自明で、整合的かつ文脈を超えて適用可能であるかどうかを評価することで、真の理解の有無を判断する。
• 将来的なAIシステムが、高度な自然言語処理と人間-コンピュータインタラクションを活用して、科学的対話や説明に参加できるよう、フレームワークを提示する。

実験結果

リサーチクエスチョン

• RQ1 人工知能システムは、数値的予測を超えて、どのように科学的理解に意味のある貢献をできるか？
• RQ2 AIが科学的理解を前進させるために果たせる3つの明確な役割とは何か。それぞれの役割はどのように実現できるか？
• RQ3 AIシステムが真の科学的理解に到達したかどうかを判断するための基準は何か？
• RQ4 AIが人間の学習者に科学的理解を伝える能力を有するかどうかを評価するためのテストを、どのように設計できるか？
• RQ5 AIが真の科学的理解の主体となるために、どのような技術的および学際的進歩が必要か？

主な発見

• AIシステムは、複雑なデータに隠れたパターンを明らかにすることで、計算的顕微鏡として機能し、従来はアクセスできなかった現象を科学者が認識できるようにする。
• AIは、新しい仮説や概念的枠組みを生成することで、強力なインスピレーションの源として機能し、人間の科学的探求を導く。
• 科学的理解テストは、実用的で人間中心のベンチマークを提供し、AIが人間に洞察をもたらす形で科学的概念を説明できるかどうかを評価する。
• このテストは、人間の審査官が人間の専門家とAI教師の説明を区別できない場合、AIが科学的理解に到達したとみなされるように設計されている。
• AIによる真の科学的理解は、予測の正しさではなく、人間にとって概念的に意味のある形で説明・推論・洞察を伝える能力にかかっている。
• 著者らは、将来的な進展には、自然科学者、コンピュータ科学者、科学の哲学の研究者が深く協働する必要があると主張する。その結果、自立的で理解能力を有するAIエージェントの実現が可能になる。