[論文レビュー] Mathematical Reasoning via Self-supervised Skip-tree Training

Markus N. Rabe, Dennis Lee+2 more|arXiv (Cornell University)|Jun 8, 2020

Topic Modeling参考文献 29被引用数 13

ひとこと要約

本論文は、形式的数学的式における言語モデルの自己教師付きスキップツリー学習手法を提案し、標準的なスキップシーケンス手法と比較して論理的推論を顕著に向上させる。HOListデータセットで学習させたモデルは、型推論、仮定予測、等価性補完などのタスクで優れた性能を発揮し、微調整なしに証明可能で有用な予想を生成する。

ABSTRACT

We examine whether self-supervised language modeling applied to mathematical formulas enables logical reasoning. We suggest several logical reasoning tasks that can be used to evaluate language models trained on formal mathematical statements, such as type inference, suggesting missing assumptions and completing equalities. To train language models for formal mathematics, we propose a novel skip-tree task. We find that models trained on the skip-tree task show surprisingly strong mathematical reasoning abilities, and outperform models trained on standard skip-sequence tasks. We also analyze the models' ability to formulate new conjectures by measuring how often the predictions are provable and useful in other proofs.

研究の動機と目的

• 形式的数学的式における自己教師付き言語モデルが、ラベルなしデータでも強力な論理的推論能力を発揮できるかどうかを調査すること。
• 数学的式の木構造を尊重する新しい代理学習タスク「スキップツリー」を考案すること。
• 微調整なしに、機械的導出や創造的予想生成を含む多様な推論タスクにおいて言語モデルの性能を評価すること。
• 強化学習ベースの証明探索における前提としての有用性と証明可能性を確認することで、モデルが生成した予想の有用性を測定すること。

提案手法

• マスクされた部分木を予測するスキップツリータスクを提案し、形式的数学的式の階層的構造を保持する。
• HOL Lightで形式化された数学を含むHOListデータセット上で、トランスフォーマー基盤の言語モデルを学習する。
• 線形的なトークン列ではなく、欠落した部分木を予測するマスク予測目的を用いる。
• 型推論、欠落した仮定予測、等価性補完といった評価タスクを設計し、推論能力をテストする。
• 強化学習ベースの証明探索における前提としての使用可能性を確認することで、予想の質を評価する。
• 無関係または重複する予想を除外するためのプルーニングステップを適用し、証明において本質的であるものを残す。

実験結果

リサーチクエスチョン

• RQ1 形式的数学的式における自己教師付き言語モデルが、微調整なしに強力な論理的推論能力を発揮できるか？
• RQ2 式の構造を尊重するスキップツリー学習目的が、数学的推論において標準的なスキップシーケンスタスクを上回るか？
• RQ3 言語モデルが新しい、証明可能で有用な数学的予想をどの程度生成できるか？
• RQ4 形式的証明の文脈において、モデルが生成した予想の有用性をどのように客観的に測定できるか？

主な発見

• スキップツリータスクで学習したモデルは、全推論評価タスクにおいてスキップシーケンスタスクで学習したモデルを上回る性能を示した。
• 仮定予測タスクにおいて、モデルが生成した文の97.75％が証明可能であり、3,857個中3,445個がDeepHOL証明で前提として使用された。
• 等価性補完タスクにおいて、3,440個の予測のうち979個が証明可能かつ証明で有用であった。
• 自由形式の予想生成において、130個中49個の予想が証明可能で証明で使用され、定理データベースに存在しない新しい予想も含まれた。
• モデルは、以前に欠落していた定理（$b = a + c \Rightarrow a = b - c$）を発見し、1,728件の証明で使用されており、実用的価値を示した。
• 一部の予想、たとえば$\texttt{COUNTABLE}(\{s(n)\mid n\in\mathbb{N}\})$は完全に新規であり、人間がアノテートした証明や定理データベースに存在しなかった。