[论文解读] Analyzing Hypersensitive AI: Instability in Corporate-Scale Machine Learning

Michaela Regneri, Malte Hoffmann+4 more|arXiv (Cornell University)|Jul 17, 2018

Topic Modeling参考文献 14被引用 4

一句话总结

本文提出了一种敏感性分析框架，通过结合拓扑与输出一致性度量，衡量企业级几何机器学习模型（尤其是 word2vec）中的不稳定性。研究发现，层次化 Softmax（HS）可降低方差，负采样则增加敏感性，而单个数据点（尤其是具有罕见或意外关联的数据点）可能显著改变模型输出，从而实现对高信息量数据点的检测。

ABSTRACT

Predictive geometric models deliver excellent results for many Machine Learning use cases. Despite their undoubted performance, neural predictive algorithms can show unexpected degrees of instability and variance, particularly when applied to large datasets. We present an approach to measure changes in geometric models with respect to both output consistency and topological stability. Considering the example of a recommender system using word2vec, we analyze the influence of single data points, approximation methods and parameter settings. Our findings can help to stabilize models where needed and to detect differences in informational value of data points on a large scale.

研究动机与目标

• 为应对大规模工业机器学习系统中日益严峻的模型不稳定性挑战，其中可靠性与可复现性至关重要。
• 将几何模型（尤其是 word2vec）中的不稳定性来源分解为输入数据变化与算法近似方法的影响。
• 开发可扩展、面向应用的度量方法，量化嵌入空间的拓扑变化以及在参数或数据扰动下的输出一致性。
• 识别对模型不稳定性贡献最大的数据点，从而实现更优的数据质量评估与模型稳定化。
• 为基于数据点对模型稳定性与性能的影响，预测并衡量其业务价值奠定基础。

提出的方法

• 作者在电子商务点击流数据上训练 word2vec 嵌入，结合混合推荐系统，用于建模物品到物品的推荐。
• 使用拓扑数据分析（TDA）度量，如聚类数量、噪声点数量与聚类纯度，评估嵌入空间的结构性变化。
• 通过比较在有无单个数据点或不同超参数下训练的模型之间的 top-10 推荐重叠度，衡量输出一致性。
• 开展留一法敏感性分析，以隔离单个数据点对模型输出与拓扑结构的影响。
• 在受控条件下比较两种近似方法——层次化 Softmax（HS）与负采样——以评估其对稳定性的影响。
• 通过固定 Huffman 树与随机种子，消除 word2vec 中的随机性，从而实现在不同运行间可复现的比较。

实验结果

研究问题

• RQ1 不同近似方法（如层次化 Softmax 与负采样）如何影响 word2vec 嵌入的稳定性？
• RQ2 单个数据点（尤其是罕见或语义复杂的）在多大程度上改变最终模型结构与输出？
• RQ3 嵌入空间的拓扑属性（如聚类数量、聚类纯度）与输出一致性及模型敏感性之间存在何种关联？
• RQ4 我们能否区分由输入数据变化引起的不稳定性与由算法近似策略引起的不稳定性？
• RQ5 数据点的信息密度与其对模型稳定性与输出质量的影响之间存在何种关系？

主要发现

• 在层次化 Softmax（HS）中固定 Huffman 树可消除 word2vec 中的方差，从而在相同输入数据下实现完全可复现的结果。
• 负采样导致对数据变化的敏感性更高，而 HS 则保持更高的输出与拓扑稳定性。
• 不同模型中嵌入空间的聚类数量存在显著差异，当汉明距离与 Huffman 编码变化均较高时，变化尤为明显。
• 所有模型中噪声点的平均数量保持在 143,416 ± 99 的稳定水平，表明其为拓扑分析提供了稳定的基线。
• 所有嵌入的聚类纯度平均为 0.910 ± 0.002，聚类更少且更一致的模型中观察到更高的纯度。
• 局部嵌入密度与推荐重叠度呈负相关：密度较高的区域即使推荐结果变化较大，也较少损失质量。