[论文解读] On the Stable Euclidean Distance Degree of Algebraic Layers

Giacomo Graziani|arXiv (Cornell University)|Jan 22, 2026

Polynomial and algebraic computation被引用 0

一句话总结

论文证明了具有固定宽度和激活度的代数神经网络层的通用欧几里得距离度(gED)在输入/输出维度上是稳定的多项式，并且gED仅取决于激活度，而不取决于其单项式支撑。

ABSTRACT

We study the projective geometry of algebraic neural layers, namely families of maps induced by a polynomial activation function, with particular emphasis on the generic Euclidean Distance degree ($\mathrm{gED}$). This invariant is projective in nature and measures the number of optimal approximations of a general point in the ambient space with respect to a general metric. For a fixed architecture (i.e. fixed width and activation polynomial), we prove that the $\mathrm{gED}$ is stably polynomial in the dimensions of the input and output spaces. Moreover, we show that this stable polynomial depends only on the degree of the activation function. Our approach relies on standard intersection theory on the Nash blow-up, which allows us to express the $\gED$ as an intersection number over products of Grassmannians. Stable polynomiality is deduced via equivariant localization, while the reduction to the monomial case follows from an explicit Schubert calculus computation on Grassmannians.

研究动机与目标

• 通过将 ED-度作为投影不变量来动机化并Formalize对代数神经网络层的研究。
• 证明在固定结构下，gED 在输入/输出维度上表现为多项式（稳定性）。
• 证明 gED 仅取决于激活度，而不取决于特定的单项式支撑。
• 提供几何框架（Nash 反变换、 Grassmannians）以将 gED 计算为一个相交数。
• 将计算简化为单项式激活而不影响渐近复杂度。
• 将 ED-度与极角度和 Chern-Mather 类联系起来，以实现显式公式。

提出的方法

• 将 gED 表达为在 Grassmannian 的积上通过 Nash 反变换的相交数。
• 应用等基定位以获得稳定多项式性（定理 4.5）。
• 在 Grassmannians 上应用 Schubert 计算将问题化简为单项式激活情况（定理 5.4）。
• 通过显式的相交理论公式将 ED-度与极角度及 Chern-Mather 类联系起来（第 2.4 节）。
• 描述代数神经网络层及其 k-割切的几何实现（定义 2.4，引理 3.1）。

实验结果

研究问题

• RQ1 固定宽度的代数神经网络层的通用 ED-度 gED 随输入/输出维度增长如何变化？
• RQ2 在固定宽度和激活度下，gED 是否对这些维度表现出稳定多项式行为？
• RQ3 gED 是否取决于激活多项式的完整单项式支撑，还是仅取决于其次数？
• RQ4 将 gED 的计算简化为单项式激活是否不会改变渐近结果？
• RQ5 哪些几何工具（Nash 反变换、Grassmannians、Schubert 计算）能给出 gED 的显式公式？

主要发现

• 在固定宽度和激活度下，gED 在输入和输出维度上是稳定的多项式（定理 4.5）。
• gED 的稳定多项式仅取决于激活度，而与单项式支撑无关（定理 5.4）。
• 可以降维至同阶的单项式激活而不影响通用不变量 gED。
• 在 Nash 反变换框架下，gED 可以表示为 Grassmannian 乘积上的相交数。
• ED-度被通用 ED-度所界定，并且与极角度和 Chern-Mather 类相关（命题 2.14，定理 2.18）。