[论文解读] Mathematics of learning

Natalia L. Komarova, Igor Rivin|ArXiv.org|May 29, 2001

Stochastic processes and statistical mechanics参考文献 9被引用 5

一句话总结

本文分析了在概念获取中无记忆与全记忆学习算法的收敛速率，将其性能与随机转移矩阵的主导特征值联系起来。研究发现，收敛速度关键取决于概念之间重叠密度的分布，通过随机多项式根和调和均值估计推导出渐近标度律。

ABSTRACT

We study the convergence properties of a pair of learning algorithms (learning with and without memory). This leads us to study the dominant eigenvalue of a class of random matrices. This turns out to be related to the roots of the derivative of random polynomials (generated by picking their roots uniformly at random in the interval [0, 1], although our results extend to other distributions). This, in turn, requires the study of the statistical behavior of the harmonic mean of random variables as above, which leads us to delicate question of the rate of convergence to stable laws and tail estimates for stable laws. The reader can find the proofs of most of the results announced here in the paper entitled "Harmonic mean, random polynomials, and random matrices", by the same authors.

研究动机与目标

• 理解无记忆与全记忆学习算法在概念获取模型中的收敛速度。
• 分析由随机概念重叠引发的学习动力学所产生的随机转移矩阵的谱性质。
• 将转移矩阵的第二大特征值与随机多项式导数的最小根联系起来。
• 根据重叠分布的尾部行为，推导实现高置信度学习所需步数的渐近标度律。
• 比较在不同重叠分布下，无记忆与全记忆学习策略的效率。

提出的方法

• 将学习建模为马尔可夫过程，其转移矩阵由概念之间的随机相似性重叠导出。
• 通过分析转移矩阵的主导特征值和谱间隙来确定收敛速率。
• 建立转移矩阵的特征多项式与根在 [0,1] 上均匀分布的随机多项式导数之间的数学联系。
• 利用随机多项式导数的最小根对应于转移矩阵的第二大特征值的关系。
• 应用极值理论与稳定分布理论，分析表示重叠密度的随机变量的调和均值。
• 采用大偏差估计与稳定分布的尾部行为分析，推导学习过程的收敛速率。

实验结果

研究问题

• RQ1 无记忆学习算法的收敛速率如何随概念数量和概念重叠分布而变化？
• RQ2 当重叠密度函数在 1 附近具有重尾行为时，对学习速度有何影响？
• RQ3 在期望收敛时间方面，全记忆学习与无记忆学习相比如何？
• RQ4 转移矩阵的谱间隙与随机多项式导数的根之间存在何种关系？
• RQ5 重叠调和均值的极值与稳定分布特性如何影响学习时间分布？

主要发现

• 当重叠均匀分布时，实现 $1-\triangle$ 置信度所需的步数 $N_{\triangle}$，无记忆学习为 $|\text{log} \triangle| n \log n$，全记忆学习为 $(1-\triangle)^2 n \log n$。
• 当重叠密度在 1 附近表现为 $x^\beta$ 形式且 $\beta > 0$ 时，收敛速率分别为无记忆学习 $|\text{log} \triangle| n$，全记忆学习 $(1-\triangle)^2 n$。
• 对于重尾重叠密度（$-1 < \beta < 0$），收敛时间在无记忆学习中为 $|\text{log} \triangle| n^{1/(1+\beta)}$，全记忆学习亦同。
• 全记忆学习的期望时间在渐近意义上比无记忆学习快一个常数因子，且该因子随小 $\triangle$ 的 $|\text{log} \triangle|$ 变化。
• 分析表明，转移矩阵的第二大特征值由根在 [0,1] 上的随机多项式导数的最小根决定。
• 可推导出精确的渐近常数，尽管收敛速度缓慢（对数级），限制了精确边界的实用价值。