[論文レビュー] RxnScribe: A Sequence Generation Model for Reaction Diagram Parsing

Yujie Qian, Jiang Guo+3 more|arXiv (Cornell University)|May 19, 2023

Machine Learning in Materials ScienceMaterials Science被引用数 3

ひとこと要約

RxnScribeは、化学反応図を構造化された反応スキームにエンドツーエンドで解析するためのシーケンス生成モデルを導入する。このタスクは、エンティティと役割のトークン化表現を用いたシーケンス・ツー・シーケンス予測として定式化される。1,378枚の図からなる多様なデータセットにおいて80.0%のソフトマッチF1スコアを達成し、特に複雑なグラフ形式の図において顕著に優れた性能を発揮する。合成的データ拡張により一般化性能が向上している。

ABSTRACT

Reaction diagram parsing is the task of extracting reaction schemes from a diagram in the chemistry literature. The reaction diagrams can be arbitrarily complex, thus robustly parsing them into structured data is an open challenge. In this paper, we present RxnScribe, a machine learning model for parsing reaction diagrams of varying styles. We formulate this structured prediction task with a sequence generation approach, which condenses the traditional pipeline into an end-to-end model. We train RxnScribe on a dataset of 1,378 diagrams and evaluate it with cross validation, achieving an 80.0% soft match F1 score, with significant improvements over previous models. Our code and data are publicly available at https://github.com/thomas0809/RxnScribe.

研究の動機と目的

• 学術文献に見られる多様な化学反応図を堅牢に解析できる汎用的な機械学習モデルの開発。
• 従来のパイプライン型アプローチにおける誤差伝搬の課題を解消するため、エンティティ認識と関係予測をエンドツーエンドのシーケンス生成フレームワークに統合する。
• 4つのスタイル（単一線形、複数線形、木構造、グラフ）をカバーする1,378枚の反応図からなる大規模かつ専門家がアノテートしたデータセットを構築し、学習と評価に用いる。
• 新しい合成的データ拡張戦略を用いて、レアまたは複雑な図形式におけるモデルの一般化性能と性能を向上させる。

提案手法

• 反応図の解析を、エンティティタイプ、役割（反応物／生成物／条件）、バウンディングボックス座標、コンテンツを符号化したトークンのシーケンスとして定式化するシーケンス生成タスクに定義する。
• 分子構造、テキスト、反応役割を構造的かつ順序的に符号化した離散的シーケンス表現を定義し、モデル入力として使用する。
• 図画像を入力として、完全な反応シーケンスを予測するトランスフォーマー基盤のシーケンス生成モデル（例：T5または類似モデル）を学習する。
• 予測されたバウンディングボックスに対して、MolScribeを用いた分子構造認識およびOCRによるテキスト抽出といったオフザシェルツールを適用し、最終的なSMILESおよびテキスト出力を生成する。
• 単純な図を組み合わせてより複雑な図を合成する、合成的データ拡張戦略を適用し、トレーニングデータの多様性を向上させ、まれなスタイルにおける性能向上を図る。
• 5分割交差検証を用いて評価し、ソフトマッチF1スコアを用いて反応構造予測の正確性に注目する。

Figure 1 : Examples of reaction diagrams in chemistry literature. We summarize four common styles of reaction diagrams: single-line, multiple-line, tree, and graph. The example diagrams are adapted with permission from Faizi et al. 1 [Copyright © 2016 American Chemical Society], Armitage et al. 2 [C

実験結果

リサーチクエスチョン

• RQ1 シーケンス生成モデルは、多様な反応図形式の解析を1つのエンドツーエンドフレームワークに統合して効果的に実現できるか？
• RQ2 従来のパイプライン型アプローチと比較して、提案手法のシーケンス表現は、頑健性と誤差伝搬の観点でどのように優れているか？
• RQ3 合成的データ拡張は、木構造やグラフ構造など低リソースな図形式において、どの程度モデルの一般化性能を向上させるか？
• RQ4 実世界の複雑な反応図（学術文献に掲載）に対する、シーケンスベースの解析の性能上限はどの程度か？
• RQ5 トレーニングデータ量と図の複雑さが増加するに従い、モデル性能はどのように変化するか？

主な発見

• RxnScribeは、全データセットにおいて80.0%のソフトマッチF1スコアを達成し、以前のモデルが同ベンチマークで10%未満にとどまっていたのと比べ、顕著な向上を示した。
• 単一線形図では91.0%のF1スコアを記録し、グラフ形式図に対しても65.9%のF1スコアを達成しており、複雑さにかかわらず多様なスタイルにわたって頑健な性能を発揮している。
• 合成的データ拡張は、木構造、複数線形、グラフ形式といった複雑なスタイルにおいて顕著な性能向上をもたらしたが、単純な単一線形図ではそれほど恩恵が少なかった。
• より多くのトレーニングデータが与えられるにつれて性能が一貫して向上し、特に複数反応を含む図において顕著であった。これは、より大きなデータセットでさらなる向上が期待できる可能性を示している。
• モデルは低リソースなスタイルに対しても良好に一般化しており、最小のグループ（グラフ形式、102例）においても60%を超えるF1スコアを達成した。これは、シーケンス生成アプローチの有効性を示している。

Figure 2 : Overview of reaction diagram parsing. The input is a reaction diagram, and the output is a list of reactions. The example diagram is from a journal article. 1