[論文レビュー] Why Machines Cannot Learn Mathematics, Yet

André Greiner-Petter, Terry Ruas+4 more|arXiv (Cornell University)|May 20, 2019

Topic Modeling参考文献 10被引用数 5

ひとこと要約

本稿では、単語埋め込み（word2vec や PV など）を含む現在の機械学習技術が、言語的曖昧性、文脈依存性、数学マークアップにおける曖昧な基準のため、数学的式を十分に表現できないと主張している。これを解決するために、著者らは数学的式の意味的解釈を統合する再帰的で木構造の表現である「注目対象の数学的対象（MOIs）」を提案する。これにより、数学的情報検索（MIR）におけるより強固で一貫性のある学習が可能になる。

ABSTRACT

Nowadays, Machine Learning (ML) is seen as the universal solution to improve the effectiveness of information retrieval (IR) methods. However, while mathematics is a precise and accurate science, it is usually expressed by less accurate and imprecise descriptions, contributing to the relative dearth of machine learning applications for IR in this domain. Generally, mathematical documents communicate their knowledge with an ambiguous, context-dependent, and non-formal language. Given recent advances in ML, it seems canonical to apply ML techniques to represent and retrieve mathematics semantically. In this work, we apply popular text embedding techniques to the arXiv collection of STEM documents and explore how these are unable to properly understand mathematics from that corpus. In addition, we also investigate the missing aspects that would allow mathematics to be learned by computers.

研究の動機と目的

• 科学的文書内の数学的式を理解するための現在の機械学習手法の根本的限界を特定すること。
• 自然言語処理（NLP）で成功を収めたにもかかわらず、なぜ一般的なテキスト埋め込み技術が数学的情報検索（MIR）で失敗するのかを分析すること。
• 現在の機械学習パイプラインにおける数学的式の標準化され、意味的に豊富な表現の欠如を是正すること。
• 一貫性があり解釈可能な数学的式の意味的モデリングを可能にする、新しい統一フレームワーク「注目対象の数学的対象（MOIs）」を提案すること。
• MOIs を柔軟で再帰的な木構造として導入することで、今後の研究の基盤を築くこと。これにより、数学的式の意味的構成要素を正確に捉えることができる。

提案手法

• arXiv のSTEMコアに、一般的なテキスト埋め込みモデル（例：word2vec、PV）を適用し、数学的式の表現能力を評価すること。
• 特に content MathML 3.0 および OpenMath における意味的意味を捉える能力の欠如を分析し、既存の数学マークアップ標準の欠陥を検証すること。
• 各ノードが数学的式の意味的構成要素を表す再帰的木構造としての「注目対象の数学的対象（MOIs）」を導入すること。
• 階層的な意味的関係をエンコードするように MOIs を設計する。例：$\alpha_i$ を親ノードとして、$\alpha$ と $i$ を子ノードとする。これにより文脈と構造が保持される。
• TeX のトークン化、表示用 MathML、content MathML のパースアプローチの知見を統合する抽象化としての MOIs を提案すること。
• 語彙頻度と逆文書頻度（tf-idf）分析を用いて、数学的式における統計的パターンを調査し、自然言語と同様にZipf則に類似した分布が示唆される初期的証拠を提示すること。

実験結果

リサーチクエスチョン

• RQ1 なぜ機械学習モデルはNLPで成功を収めたにもかかわらず、数学的式の意味を学習できないのか？
• RQ2 標準的なテキスト埋め込み技術を用いた数学的式の表現において、根本的な構造的・意味的課題は何か？
• RQ3 ネストされたまたは複合的な構成要素（例：$\alpha_i$）を含む数学的式を、意味を保持した形で意味的に解析・表現するにはどうすればよいか？
• RQ4 曖昧さや曖昧な基準（例：content MathML）が、数学の機械理解を妨げる役割を果たすのか？
• RQ5 MOIs のような統一的で再帰的かつ拡張可能な表現が、数学的情報検索におけるより一貫性があり効果的な機械学習を可能にするのか？

主な発見

• word2vec や PV などの一般的なテキスト埋め込み技術は、言語的曖昧性と文脈依存性のため、数学的式の意味的意味を捉えられない。
• 同じ根本的問題（曖昧性、形式的でない性質、文脈依存性）が、複数の MIR プロジェクトにわたって継続しており、それらの一般化可能性と信頼性を損なっている。
• content MathML 3.0 のような既存の数学マークアップ標準は、関数、変数、複合式の定義に明確なルールがないため、意味的解釈に不十分である。
• ヴァン・ダール・ワーデンの定理における式 $W(2,k)$ は、記号の解釈が文脈に依存することを示している。$W$ は関数でも変数でもあり得るため、意味的意味が異なる。
• 提案された「注目対象の数学的対象（MOIs）」構造により、再帰的で木構造の表現が可能となり、$\alpha$、$i$、$\alpha_i$ のような意味的構成要素が別個の意味的ノードとして明確に捉えられる。
• 初期の分析から、数学的対象が自然言語と同様の統計的分布（例：Zipfの法則）に従うことが示唆されており、tf-idf や頻度ベースの手法を用いて科学的文書内の意味的単位を同定することが可能であると裏付けられている。