[論文レビュー] Accelerating science with human versus alien artificial intelligences

Jamshid Sourati, James A. Evans|arXiv (Cornell University)|Apr 12, 2021

Machine Learning in Materials Science参考文献 6被引用数 4

ひとこと要約

本論文は、出版物、著者、科学的概念のハイパーグラフを通じて、科学者がおそらく行うと予想される認知的推論——つまり、人間の専門知識の分布——をモデル化することで、科学的発見を向上させる画期的なAIフレームワークを提案する。これらの専門家に配慮した推論を対象に自己教師ありモデルを訓練することで、ドラッグリポurposeやワクチン開発において予測精度を最大260％向上させるとともに、人間が見過ごしているが科学的に有望な「アライアン」仮説を同定し、科学的進歩を加速かつ飛躍的に促進する。

ABSTRACT

Data-driven artificial intelligence models fed with published scientific findings have been used to create powerful prediction engines for scientific and technological advance, such as the discovery of novel materials with desired properties and the targeted invention of new therapies and vaccines. These AI approaches typically ignore the distribution of human prediction engines -- scientists and inventor -- who continuously alter the landscape of discovery and invention. As a result, AI hypotheses are designed to substitute for human experts, failing to complement them for punctuated collective advance. Here we show that incorporating the distribution of human expertise into self-supervised models by training on inferences cognitively available to experts dramatically improves AI prediction of future human discoveries and inventions. Including expert-awareness into models that propose (a) valuable energy-relevant materials increases the precision of materials predictions by ~100%, (b) repurposing thousands of drugs to treat new diseases increases precision by 43%, and (c) COVID-19 vaccine candidates examined in clinical trials by 260%. These models succeed by predicting human predictions and the scientists who will make them. By tuning AI to avoid the crowd, however, it generates scientifically promising "alien" hypotheses unlikely to be imagined or pursued without intervention, not only accelerating but punctuating scientific advance. By identifying and correcting for collective human bias, these models also suggest opportunities to improve human prediction by reformulating science education for discovery.

研究の動機と目的

• 既存のAIモデルが人間の専門知識の分布とその認知的推論を無視するという限界に対処すること。
• 自己教師あり学習モデルに科学的専門知識の進化する分布を組み込むことで、将来の科学的発見の予測精度を向上させること。
• 人間の認知バイアスや限られた推論経路によって見過ごされがちなが科学的に有望な仮説——「アライアン」仮説——を特定すること。
• 専門家に配慮したAIが、既知の発見経路を加速するとともに、見過ごされた高ポテンシャルな研究分野を示唆することで科学的進歩を飛躍的に促進できることを示すこと。
• 集団的な人間のバイアスが科学的推論に与える影響をAI補完型発見によって是正できるようにすることで、科学教育の改革に示唆を与えること。

提案手法

• 材料、特性、研究者をノードとする混合ハイパーグラフを構築し、出版物に同時に登場するノードの集合をエッジで接続する。
• ハイパーグラフ上のランダムウォークを用いて、特定の研究背景を持つ科学者がおそらく行うと予想される認知的に利用可能な推論——すなわち、推論経路——の分布をモデル化する。
• GraphSAGEベースのグラフオートエンコーダーを用いて実装された自己教師あり学習フレームワークにより、ハイパーグラフ内の構造的および専門家に配慮した関係を保持する低次元ノード埋め込みを学習する。
• リンク予測損失とネガティブサンプリングを用いてモデルを訓練する。正例ペアはランダムウォークのスライディングウインドウから、負例ペアはユニグラム分布を3/4乗した分布から抽出する。
• 2つの設定でアプローチを評価する：1つは著者ノードを含む（専門家に配慮した推論経路を捉える）、もう1つは含まない（専門知識分布を無視するベースライン）。
• 精度は、物質科学、ドラッグリポurpose、ワクチン開発における既知の将来の発見と比較して予測された発見を評価することで測定する。

実験結果

リサーチクエスチョン

• RQ1 人間の専門知識の分布をAIモデルに組み込むことで、将来の科学的発見の予測精度がどの程度向上するか？
• RQ2 認知バイアスや限られた推論経路のため、人間の専門家が採択しにくいが科学的に有望な仮説をAIモデルがどの程度特定できるか？
• RQ3 専門家に配慮したAIモデルは、既知の発見経路を加速するだけでなく、見過ごされた高ポテンシャルな研究分野を特定することで科学的進歩を飛躍的に促進できるか？
• RQ4 モデルのインダクティブバイアスに著者および研究履歴データを組み込むことで、人間の専門知識を無視するモデルと比較して、将来の発見を予測する能力がどの程度向上するか？
• RQ5 人間の推論パターンを避ける「アライアン」AI仮説——科学的に有望だが人間が思いつかない・追求しない仮説——が、科学教育の改革や集団的科学的イノベーションの強化にどのような示唆を与えるか？

主な発見

• 自己教師ありモデルに人間の専門知識の分布を組み込むことで、エネルギー関連物質の予測精度が、人間の専門知識を無視するモデルと比較して約100％向上した。
• ドラッグリポurposeの分野では、人間の推論パターンを考慮しないベースラインモデルと比較して、専門家に配慮したモデルが予測精度を43％向上させた。
• COVID-19ワクチンの臨床試験候補の予測において、人間の専門知識を無視するモデルと比較して、専門家に配慮したモデルは精度を260％向上させた。
• モデルは「アライアン」仮説——科学的に有望だが、人間が思いつかないか、追求されない可能性が高い仮説——を効果的に同定し、漸進的ではなく飛躍的な科学的進歩を可能にした。
• 研究履歴に基づいて科学者が利用可能な認知的推論をモデル化することで、試みられたり放棄された科学的アイデアに関する推論を安定した社会的事実として捉えることができた。
• 集団的な人間のバイアスを是正することで、発見志向の思考を強化する科学教育の改革に示唆が得られた。