[論文レビュー] A Computational Inflection for Scientific Discovery

Tom Hope, Doug Downey+3 more|arXiv (Cornell University)|May 4, 2022

Scientific Computing and Data Management被引用数 4

ひとこと要約

本稿では、デジタル化された科学的文献コーパスと大規模言語モデルを活用して、研究における認知的ボトル neck を軽減するための計算フレームワークを提案する。このフレームワークは、タスク指向の科学的知識検索を可能にし、研究者が文献レビュー、アイデアの生成、注意の誘導を支援するシステムを提供する。情報の爆発的増加という状況において、人間の科学的推論をスケーラブルに拡張することを目的としている。

ABSTRACT

We stand at the foot of a significant inflection in the trajectory of scientific discovery. As society continues on its fast-paced digital transformation, so does humankind's collective scientific knowledge and discourse. We now read and write papers in digitized form, and a great deal of the formal and informal processes of science are captured digitally -- including papers, preprints and books, code and datasets, conference presentations, and interactions in social networks and collaboration and communication platforms. The transition has led to the creation and growth of a tremendous amount of information -- much of which is available for public access -- opening exciting opportunities for computational models and systems that analyze and harness it. In parallel, exponential growth in data processing power has fueled remarkable advances in artificial intelligence, including large neural language models capable of learning powerful representations from unstructured text. Dramatic changes in scientific communication -- such as the advent of the first scientific journal in the 17th century -- have historically catalyzed revolutions in scientific thought. The confluence of societal and computational trends suggests that computer science is poised to ignite a revolution in the scientific process itself.

研究の動機と目的

• 科学的知識の爆発的増加と、それらを処理できる人間の認知的容量の静的特性との間の格差を是正すること。
• 情報過多と認知バイアスの影響により、研究者が文献を追いつくことや、有望な研究分野を特定し、インサイトを統合する能力に制限が生じるのを克服すること。
• 特定の研究タスクに適合した関連する科学的知識を検索・統合・提示する計算システムを開発し、発見の効率を向上させること。
• デジタルトレースと動的推論を用いて研究者の知識、好み、目的をモデル化することで、人間とAIのミックスド・イニシアチブ型協働を可能にすること。
• 注意を向けさせたり、研究分野の優先順位を決定したり、複雑な科学的情報空間における意味の構築を支援する、スケーラブルで原理的根拠を持つツールを設計すること。

提案手法

• 膨大な科学的文献コーパス、プレプリント、コード、共同作業データから学習する大規模ニューラル言語モデルを活用し、表現を学習する。
• 特定の研究タスクに基づいて関連するインサイト、説明、根拠を検索する、タスク指向の科学的知識検索システムを実装する。
• デジタルトレース（例：論文、クエリ、共同作業ログ）を活用し、明らかにされた行動から研究者の知識状態、関心、好みを推定する。
• 人間とAIの協働を通じてAIが推定する知識のギャップや改善のための提案を提示する、ミックスド・イニシアチブ型インターフェースを開発する。
• 機械学習パイプラインに科学的知識の検索と統合を組み込み、予測や仮説生成を支援する。
• ウェブ通販や検索のパーソナライゼーションにインspiredされた動的推論とパーソナライゼーション技術を活用し、ユーザー固有のニーズと制約をモデル化する。

実験結果

リサーチクエスチョン

• RQ1 計算システムは、文献レビュー、仮説生成などの特定の研究タスクを支援するために、どのように科学的知識を効果的に検索・統合できるか？
• RQ2 デジタルトレースは、研究者の暗黙の知識、好み、認知状態をどの程度明らかにできるか？
• RQ3 人間の注意が限られている状況において、AIシステムは科学分野における未開拓または高不確実性領域に研究者の注意を向けることができるか？
• RQ4 AI駆動の発見システムを実世界の科学的ワークフローに統合する際の主な課題は何か？ それらはどのように軽減できるか？
• RQ5 AIモデルは、研究分野の生成と優先順位付けにおいて、実現可能性、独創性、有用性のバランスをどのようにとることができるか？

主な発見

• 科学的議論のデジタルトランスフォーメーションにより、広範かつ公開可能な科学的知識のコーパスが構築され、計算分析やAI駆動の発見に新たな機会が生まれた。
• 科学的テキストで微調整された大規模言語モデルは、特定の研究タスクに適したインサイトの検索と統合を支援する強力な表現を学習できる。
• 研究者のデジタルトレース（出版履歴やクエリパターンなど）を活用することで、知識状態や好みを推定し、パーソナライズドなAI支援を可能にする。
• 未開拓または高不確実性の分野に注意を向けるようなシステムは、認知バイアスや情報過多に対処するのを支援する。
• 導入の課題（例：IBM Watson Healthの失敗に見られるAIと人間の理解の不一致）は存在するが、人間のニーズをよりよくモデル化することで、AIを科学的ワークフローに統合することは依然として可能である。
• 計算支援による科学的発見の分野での段階的進歩でさえ、スケール上で科学的進歩を加速させる大きな成果をもたらす可能性を秘めている。