[论文解读] Developing Bug-Free Machine Learning Systems With Formal Mathematics

Daniel Selsam, Percy Liang+1 more|arXiv (Cornell University)|Jun 26, 2017

Computability, Logic, AI Algorithms参考文献 11被引用 28

一句话总结

本文提出了一种利用形式数学和交互式证明助手构建可证明正确的机器学习系统的系统方法。通过将系统规范编码为数学定理并在证明助手内证明这些定理，可在验证过程中系统性地暴露实现错误，从而得到经过认证的、无错误的系统——该方法通过 Certigrad 得到验证，Certigrad 是一个梯度计算系统，其梯度经形式化验证为无偏，且在训练性能上与 TensorFlow 相当。

ABSTRACT

Noisy data, non-convex objectives, model misspecification, and numerical instability can all cause undesired behaviors in machine learning systems. As a result, detecting actual implementation errors can be extremely difficult. We demonstrate a methodology in which developers use an interactive proof assistant to both implement their system and to state a formal theorem defining what it means for their system to be correct. The process of proving this theorem interactively in the proof assistant exposes all implementation errors since any error in the program would cause the proof to fail. As a case study, we implement a new system, Certigrad, for optimizing over stochastic computation graphs, and we generate a formal (i.e. machine-checkable) proof that the gradients sampled by the system are unbiased estimates of the true mathematical gradients. We train a variational autoencoder using Certigrad and find the performance comparable to training the same model in TensorFlow.

研究动机与目标

• 为解决机器学习系统中实现错误难以检测的问题，这些错误常被噪声、非凸性或数值不稳定性所掩盖。
• 通过使用交互式证明助手进行形式化验证，减少对经验测试的依赖。
• 证明形式化验证可实际应用于涉及计算图反向传播的复杂随机机器学习系统。
• 表明经形式化验证的系统可在保证正确性的同时，实现与 TensorFlow 等工业级系统相当的性能。
• 使开发者能够在无需手动验证所有系统交互的情况下，获得对系统正确性的高度信心。

提出的方法

• 使用交互式证明助手将系统正确性表述为形式数学定理，以定理证明语言表达。
• 在相同证明助手环境中，使用编程语言实现机器学习系统。
• 构建形式化证明，以确认实现满足既定的数学规范，证明义务可揭示实现错误。
• 应用启发式策略程序，自动验证特定模型（例如 AEVB）是否满足正确性所需的先决条件。
• 将理想化的实数算术替换为浮点数算术及优化的张量库（例如 Eigen），同时承认数值误差在概念上与算法错误不同。
• 通过证明采样梯度是真实数学梯度的无偏估计，验证随机计算图中梯度计算的正确性。

实验结果

研究问题

• RQ1 能否通过证明助手的形式数学验证，系统性地检测并消除机器学习系统中的实现错误？
• RQ2 形式化验证在多大程度上可应用于随机、非凸且数值不稳定的机器学习系统？
• RQ3 经形式化验证的机器学习系统能否实现与 TensorFlow 等工业级系统相当的性能？
• RQ4 形式化验证如何降低认知负荷并提升对系统正确性的信心？
• RQ5 在机器学习开发中集成形式化验证的实际权衡和渐进式采纳策略是什么？

主要发现

• Certigrad 系统被形式化证明可计算无偏梯度，所有实现错误均在证明过程中被暴露并修正。
• 形式化证明是机器可检查的，确保了正确性，无需人工验证证明逻辑。
• Certigrad 在 MNIST 数据集上对 AEVB 模型的训练性能与 TensorFlow 相当，每轮训练时间仅增加 7%。
• 该方法实现了错误的早期检测，所有错误均在最终证明完成前被解决。
• 该方法通过将正确性责任从人类转移到证明助手，显著降低了开发者的认知负荷。
• 即使部分形式化验证（如对 Eigen 等外部库的公理化）也显著提升了信心并增强了错误检测能力。