[論文レビュー] Evaluating the Performance and Robustness of LLMs in Materials Science Q&A and Property Predictions

Hongchen Wang, Kangming Li+4 more|arXiv (Cornell University)|Sep 22, 2024

Big Data and Business IntelligenceBusiness, Management and Accounting被引用数 3

ひとこと要約

本研究では、ドメイン特化型の質疑応答および物性予測タスクを通じて、大規模言語モデル（LLMs）の性能と耐性を評価する。複数のデータセットとプロンプト戦略（例：少サンプルの文脈内学習を含む）を用い、プロンプトの摂動に伴うモードコラプスや、敵対的入力操作による逆説的な性能向上といった深刻な脆弱性を同定し、科学的応用における慎重な導入と信頼性の向上の必要性を強調する。

ABSTRACT

Large Language Models (LLMs) have the potential to revolutionize scientific research, yet their robustness and reliability in domain-specific applications remain insufficiently explored. In this study, we evaluate the performance and robustness of LLMs for materials science, focusing on domain-specific question answering and materials property prediction across diverse real-world and adversarial conditions. Three distinct datasets are used in this study: 1) a set of multiple-choice questions from undergraduate-level materials science courses, 2) a dataset including various steel compositions and yield strengths, and 3) a band gap dataset, containing textual descriptions of material crystal structures and band gap values. The performance of LLMs is assessed using various prompting strategies, including zero-shot chain-of-thought, expert prompting, and few-shot in-context learning. The robustness of these models is tested against various forms of 'noise', ranging from realistic disturbances to intentionally adversarial manipulations, to evaluate their resilience and reliability under real-world conditions. Additionally, the study showcases unique phenomena of LLMs during predictive tasks, such as mode collapse behavior when the proximity of prompt examples is altered and performance recovery from train/test mismatch. The findings aim to provide informed skepticism for the broad use of LLMs in materials science and to inspire advancements that enhance their robustness and reliability for practical applications.

研究の動機と目的

• ドメイン特化型の材料科学タスク（質問応答および物性予測を含む）におけるLLMsの信頼性と耐性を評価すること。
• 現実的でないものから敵対的なものまで、さまざまなプロンプト摂動がLLM推論性能に与える影響を調査すること。
• 物性予測の過程で、モードコラプスやトレーニング／テストの不一致効果といった予期しない行動がどのように現れるかを検討すること。
• 複数のデータセットを用いてオープンソースおよび商用のLLMsをベンチマークし、性能の限界と障害モードを同定すること。
• 材料科学の研究開発プロセスへのLLMsの責任ある統合に向けた、懐疑的だが実行可能な知見を提供すること。

提案手法

• MSE-MCQs（大学学部レベルの材料科学の多肢選択式問題）、matbench_steels（鋼鉄の組成と降伏強度）、結晶構造の記述を含むバンドギャップデータセットの3つのデータセットでLLMsを評価した。
• 多様なプロンプト戦略を適用：ゼロショットのチェーン・オブ・トゥーク、エキスパートプロンプト、少サンプルの文脈内学習を最適化するために使用した。
• 5種類のテキスト摂動を体系的に導入：単位の混在、文の再順序化、同義語置換、不要な情報、余分な情報。これらは耐性をテストするために用いられた。
• LLM-Propモデルについて、入力構造（順序、文の割合）を変更し、バンドギャップ予測におけるMAEを測定することでアブレーションスタディを実施した。
• LLMsの非決定的出力を補うために、決定論的かつ繰り返し評価（各条件ごとに3回の試行）を実施し、統計的信頼性を確保した。
• LLM-Propモデルにおけるテキストベースの理解を分離するために、記述内の数値を[NUM]トークンに事前に処理した。

Figure 1: Schematic representation of the experiment design for performance evaluation and robustness analysis of LLMs. Yellow highlights the testing conducted in Q&A settings. Blue highlights the testing conducted in property prediction settings. Green represents the tests associated with performan

実験結果

リサーチクエスチョン

• RQ1 少サンプルの文脈内学習などの異なるプロンプト戦略は、材料科学分野の質問応答および物性予測におけるLLM性能にどのように影響するか？
• RQ2 文の再順序化や余分な数値情報といった現実的でない、あるいは敵対的なプロンプト摂動に対して、LLMsはどの程度耐性を示すか？
• RQ3 物性予測の過程で、モードコラプスや入力摂動による性能向上といった予期しない行動は、どのように現れるか？
• RQ4 構造的変更（逆順やシャッフルされた文の順序）が加えられた場合、ファインチューニング済みのLLM-Propモデルはどのように反応するか？
• RQ5 プロンプト構造におけるトレーニング／テストの不一致は、予測性能を向上させ得るのか？また、これは材料科学分野におけるモデルの一般化能力に何を示唆するか？

主な発見

• 文の再順序化や余分な数値情報といった現実的な摂動に対して、LLMsは顕著な性能低下を示し、実世界への導入における脆弱性を示している。
• 少サンプルの文脈内学習において、入力例とターゲット予測が類似していない場合、モードコラプスが観察され、多様な入力に対しても同一の出力が生成された。
• 驚くべきことに、文のシャッフルやランダム化といった敵対的摂動が、ファインチューニング済みのLLM-Propモデルのバンドギャップ予測の正確性を向上させた。
• LLM-Propモデルは、入力記述の重要な構造的要素がアブレーションされても、性能を維持または向上させ続けた。これは、非局所的または分散型の特徴に依存している可能性を示唆している。
• プロンプトのフォーマットに応じて性能に顕著な差が生じ、単位の混在や同義語置換が顕著な正確性の低下を引き起こした。これは、意味的・文法的変化に対する感受性が強いことを示している。
• 本研究は、LLMsが従来の機械学習モデルには見られない、逆説的な行動（例：敵対的条件下での性能向上）を示す可能性があることを明らかにした。これは、LLMsに特有の一般化ダイナミクスが存在することを示唆している。

Figure 2: LLM performance evaluation and prompt engineering enhancement in materials science Q&A using MSE-MCQs dataset. On each bar, the lighter color represents the performance of those models when introduced with the expert prompt. Error bars represent the standard deviation due to LLMs’ non-dete