[论文解读] ModelHub.AI: Dissemination Platform for Deep Learning Models

Ahmed Hosny, Michael Schwier+14 more|arXiv (Cornell University)|Nov 26, 2019

Explainable Artificial Intelligence (XAI)参考文献 46被引用 9

一句话总结

ModelHub.AI 是一个由社区驱动的容器化平台，用于结构化地分发深度学习模型，使研究人员能够通过 Python 和 RESTful API 以标准化的推理、预处理和后处理接口共享模型。该平台与框架、领域和数据无关，提高了可复现性，并促进了在各种科学工作流中开箱即用的模型使用。

ABSTRACT

Recent advances in artificial intelligence research have led to a profusion of studies that apply deep learning to problems in image analysis and natural language processing among others. Additionally, the availability of open-source computational frameworks has lowered the barriers to implementing state-of-the-art methods across multiple domains. Albeit leading to major performance breakthroughs in some tasks, effective dissemination of deep learning algorithms remains challenging, inhibiting reproducibility and benchmarking studies, impeding further validation, and ultimately hindering their effectiveness in the cumulative scientific progress. In developing a platform for sharing research outputs, we present ModelHub.AI (www.modelhub.ai), a community-driven container-based software engine and platform for the structured dissemination of deep learning models. For contributors, the engine controls data flow throughout the inference cycle, while the contributor-facing standard template exposes model-specific functions including inference, as well as pre- and post-processing. Python and RESTful Application programming interfaces (APIs) enable users to interact with models hosted on ModelHub.AI and allows both researchers and developers to utilize models out-of-the-box. ModelHub.AI is domain-, data-, and framework-agnostic, catering to different workflows and contributors' preferences.

研究动机与目标

• 为解决科学研究所面临的深度学习模型传播性差和可复现性低的挑战。
• 为跨领域和框架的训练好的深度学习模型提供一个统一的、由社区驱动的共享平台。
• 通过模板标准化模型接口，涵盖推理、预处理和后处理。
• 通过 RESTful 和 Python API 实现模型的无缝集成与部署。
• 支持与领域、数据和框架无关的模型共享，以适应多样的研究工作流。

提出的方法

• 该平台使用基于容器的软件引擎封装模型及其相关处理管道。
• 贡献者使用标准化模板定义特定于模型的功能，包括推理、预处理和后处理。
• 系统通过 Python 和 RESTful API 暴露模型功能，以实现广泛的可访问性。
• ModelHub.AI 设计为与底层深度学习框架、数据模态和应用领域无关。
• 该平台管理推理周期中的数据流，以确保模型执行的一致性和可靠性。
• 它支持由社区驱动的贡献，使研究人员能够以最低的开销共享模型。

实验结果

研究问题

• RQ1 如何在不同科学领域中以标准化、可复现且互操作的方式共享深度学习模型？
• RQ2 何种技术架构能够实现深度学习模型的高效、与框架无关的部署？
• RQ3 如何抽象模型接口，以在不同模型之间保持一致的预处理和后处理？
• RQ4 容器化和 API 抽象在提升模型传播性和可用性方面发挥什么作用？
• RQ5 社区驱动的平台如何提升深度学习研究中的可复现性和基准测试能力？

主要发现

• ModelHub.AI 使研究人员能够通过为推理、预处理和后处理提供标准化、已记录的接口来共享深度学习模型。
• 该平台通过 Python 和 RESTful API 支持模型的开箱即用，提高了开发人员和研究人员的可访问性。
• 通过使用容器化，ModelHub.AI 确保了在不同部署环境中的一致执行环境。
• 该系统设计为与领域、数据和框架无关，使其能够广泛应用于各种机器学习应用。
• 该平台通过提供集中化、版本控制的模型共享仓库，增强了可复现性并促进了基准测试。
• 通过面向贡献者的模板，社区驱动的贡献得到简化，该模板标准化了模型接口定义。