[论文解读] Why Machines Cannot Learn Mathematics, Yet

André Greiner-Petter, Terry Ruas+4 more|arXiv (Cornell University)|May 20, 2019

Topic Modeling参考文献 10被引用 5

一句话总结

本文主张，当前的机器学习技术，包括 word2vec 和 PV 等词嵌入方法，在表示数学表达式方面表现不足，原因在于语言歧义、上下文依赖性以及数学标记标准的不精确。为解决此问题，作者提出数学兴趣对象（MOIs）——一种递归的树状结构表示法，统一数学表达式的语义解释，从而实现更稳健且一致的数学信息检索（MIR）学习。

ABSTRACT

Nowadays, Machine Learning (ML) is seen as the universal solution to improve the effectiveness of information retrieval (IR) methods. However, while mathematics is a precise and accurate science, it is usually expressed by less accurate and imprecise descriptions, contributing to the relative dearth of machine learning applications for IR in this domain. Generally, mathematical documents communicate their knowledge with an ambiguous, context-dependent, and non-formal language. Given recent advances in ML, it seems canonical to apply ML techniques to represent and retrieve mathematics semantically. In this work, we apply popular text embedding techniques to the arXiv collection of STEM documents and explore how these are unable to properly understand mathematics from that corpus. In addition, we also investigate the missing aspects that would allow mathematics to be learned by computers.

研究动机与目标

• 识别现有机器学习方法在理解科学文献中数学表达式时的根本局限性。
• 分析为何尽管在自然语言处理（NLP）中取得成功，主流文本嵌入技术在数学信息检索（MIR）中仍会失败。
• 解决当前机器学习流程中数学表达式缺乏标准化、语义丰富的表示方式的问题。
• 提出一种新的统一框架——数学兴趣对象（MOIs）——以实现数学表达式语义建模的一致性与可解释性。
• 通过引入 MOIs 作为一种灵活、递归的树状结构，为未来研究奠定基础，精确捕捉数学表达式的语义组件。

提出的方法

• 将流行的文本嵌入模型（如 word2vec、PV）应用于 arXiv STEM 语料库，评估其表示数学表达式的能力。
• 分析现有数学标记标准（尤其是 content MathML 3.0 和 OpenMath）在捕捉语义含义方面的不足。
• 提出数学兴趣对象（MOIs）作为递归树状结构，其中每个节点代表数学表达式的一个语义组件。
• 设计 MOIs 以编码层级语义关系——例如，将 $\alpha_i$ 视为父节点，其子节点为 $\alpha$ 和 $i$——以保留上下文与结构。
• 提出 MOIs 作为一种统一的抽象结构，整合 TeX 标记化、表现型 MathML 和 content MathML 解析方法的见解。
• 利用词频与逆文档频率（tf-idf）分析探索数学表达式中的统计模式，初步证据表明其分布类似自然语言（如齐普夫定律）。

实验结果

研究问题

• RQ1 为何当前的机器学习模型尽管在 NLP 中表现成功，却仍无法学习数学表达式的语义？
• RQ2 使用标准文本嵌入技术表示数学表达式时，其核心结构与语义挑战是什么？
• RQ3 如何对具有嵌套或复合组件的数学表达式（如 $\alpha_i$）进行语义解析与表示，以保留其含义？
• RQ4 不精确或模糊的标准（如 content MathML）在多大程度上阻碍了机器对数学的理解？
• RQ5 像 MOIs 这样统一、递归且可扩展的表示方式，能否实现更一致且高效的数学信息检索机器学习？

主要发现

• word2vec 和 PV 等主流文本嵌入技术由于语言歧义与上下文依赖性，无法捕捉数学表达式的语义含义。
• 相同的本质问题——歧义性、缺乏形式化与上下文依赖性——在多个 MIR 项目中持续存在，削弱了其泛化能力与可靠性。
• 现有的数学标记标准（如 content MathML 3.0）在语义解释方面不足，因其缺乏明确定义函数、变量与复合表达式的规则。
• 范德瓦尔登定理中的表达式 $W(2,k)$ 展示了符号解释如何依赖上下文：$W$ 可能是函数或变量，导致不同的语义含义。
• 所提出的数学兴趣对象（MOIs）结构能够实现数学表达式的递归树状表示，将 $\alpha$、$i$ 和 $\alpha_i$ 等语义组件作为独立且有意义的节点进行捕捉。
• 初步分析表明，数学对象的分布与自然语言类似（如齐普夫定律），支持使用 tf-idf 与基于频率的方法识别科学文本中的有意义语义单元。