[论文解读] A Framework for Democratizing AI

Shakkeel Ahmed, Ravi Mula+1 more|arXiv (Cornell University)|Jan 1, 2020

Explainable Artificial Intelligence (XAI)参考文献 22被引用 6

一句话总结

本文介绍了 mlsquare，这是一个开源的 Python 框架，旨在通过实现模型可移植性、可解释性、可信度、公平性和去中心化，推动人工智能的民主化。该框架提供统一接口，将 scikit-learn 模型转换为兼容 ONNX 的深度神经网络，并扩展支持可解释性、不确定性量化以及神经架构搜索，从而促进透明化与社区驱动的开发。

ABSTRACT

Machine Learning and Artificial Intelligence are considered an integral part of the Fourth Industrial Revolution. Their impact, and far-reaching consequences, while acknowledged, are yet to be comprehended. These technologies are very specialized, and few organizations and select highly trained professionals have the wherewithal, in terms of money, manpower, and might, to chart the future. However, concentration of power can lead to marginalization, causing severe inequalities. Regulatory agencies and governments across the globe are creating national policies, and laws around these technologies to protect the rights of the digital citizens, as well as to empower them. Even private, not-for-profit organizations are also contributing to democratizing the technologies by making them \emph{accessible} and \emph{affordable}. However, accessibility and affordability are all but a few of the facets of democratizing the field. Others include, but not limited to, \emph{portability}, \emph{explainability}, \emph{credibility}, \emph{fairness}, among others. As one can imagine, democratizing AI is a multi-faceted problem, and it requires advancements in science, technology and policy. At exttt{mlsquare}, we are developing scientific tools in this space. Specifically, we introduce an opinionated, extensible, exttt{Python} framework that provides a single point of interface to a variety of solutions in each of the categories mentioned above. We present the design details, APIs of the framework, reference implementations, road map for development, and guidelines for contributions.

研究动机与目标

• 通过创建一个统一且可扩展的框架，解决人工智能专业知识与资源集中的问题，推动人工智能技术的民主化。
• 通过支持跨框架和硬件平台的模型可移植性，实现人工智能工具的广泛可访问性。
• 将可解释性、可信度（不确定性量化）、公平性和去中心化等关键人工智能特性整合到单一开发接口中。
• 通过公开基准测试、公开的性能排行榜以及版本控制的算法贡献，促进透明化与社区参与。

提出的方法

• 该框架提供统一的 Python API，包含 .save()、.explain()、.nas() 和 .ci() 等方法，用于标准化模型转换、解释、神经架构搜索和不确定性估计。
• 利用 Keras 将 scikit-learn 模型转换为深度神经网络，随后导出为 ONNX 格式，以实现跨平台部署与互操作性。
• 通过集成 LIME、SHAP 和 DeRT 等工具以及自定义方法，支持可解释性，计划实现模型无关的 .explain() 方法。
• 通过将不确定性量化作为第一等方法引入，增强可信度，未来计划支持贝叶斯推断与置信区间。
• 通过 AutoKeras 和 Tune 实现神经架构搜索（NAS），支持用户干预最少的自动化模型发现。
• 该框架采用社区驱动的开发模式，通过公开排行榜和开放的贡献管道，确保透明化与质量控制。

实验结果

研究问题

• RQ1 如何通过单一框架统一并标准化对多样化人工智能能力（如模型可移植性、可解释性与不确定性量化）的访问？
• RQ2 scikit-learn 模型能否在保持预测性能的同时，被忠实转换为深度神经网络，并支持 ONNX 导出？
• RQ3 社区贡献与公开基准测试在多大程度上能够提升人工智能模型开发的可信度与透明度？
• RQ4 如何将去中心化训练与推理集成到高级 Python 框架中，以增强隐私与公平性？
• RQ5 标准化且可扩展的 API 在多大程度上能够降低非专家用户在人工智能开发中的准入门槛？

主要发现

• mlsquare 框架成功将一系列 scikit-learn 模型（包括线性回归、岭回归、Lasso、ElasticNet、SVM 和决策树）转换为兼容 ONNX 的深度神经网络。
• .save() 方法目前已支持 10 余种 scikit-learn 模型，正在持续扩展以支持 XGBoost、IRT、Surprise 和 DeepCTR。
• .explain() 方法正在扩展以支持 DeRT（一种自定义可解释性技术），并计划集成 Interpret 与 SHAP。
• 通过 AutoKeras 和 Tune 实现原生神经架构搜索（NAS），.nas() 方法已可用于模型发现。
• 不确定性量化正被正式确立为第一等方法（通过 .ci()），初始实现正在进行中，以支持覆盖区间与可信度估计。
• 该框架已建立公开性能排行榜与开放贡献管道，支持透明化、社区驱动的模型评估与优化。