[论文解读] Component Mismatches Are a Critical Bottleneck to Fielding AI-Enabled Systems in the Public Sector

Grace A. Lewis, Stephany Bellomo+1 more|arXiv (Cornell University)|Oct 14, 2019

Big Data and Business Intelligence参考文献 8被引用 7

一句话总结

本文识别出在公共部门部署人工智能系统时的关键瓶颈——组件不匹配，如数据分布漂移、接口不兼容和工作流程差异。提出一种结构化框架，用于分类不匹配、将其映射到系统组件属性，并通过经验证的描述符实现自动化检测，最终旨在提升数据科学家、软件工程师和运维团队之间人工智能增强系统的互操作性和可靠性。

ABSTRACT

The use of machine learning or artificial intelligence (ML/AI) holds substantial potential toward improving many functions and needs of the public sector. In practice however, integrating ML/AI components into public sector applications is severely limited not only by the fragility of these components and their algorithms, but also because of mismatches between components of ML-enabled systems. For example, if an ML model is trained on data that is different from data in the operational environment, field performance of the ML component will be dramatically reduced. Separate from software engineering considerations, the expertise needed to field an ML/AI component within a system frequently comes from outside software engineering. As a result, assumptions and even descriptive language used by practitioners from these different disciplines can exacerbate other challenges to integrating ML/AI components into larger systems. We are investigating classes of mismatches in ML/AI systems integration, to identify the implicit assumptions made by practitioners in different fields (data scientists, software engineers, operations staff) and find ways to communicate the appropriate information explicitly. We will discuss a few categories of mismatch, and provide examples from each class. To enable ML/AI components to be fielded in a meaningful way, we will need to understand the mismatches that exist and develop practices to mitigate the impacts of these mismatches.

研究动机与目标

• 解决公共部门组织中人工智能系统部署过程中组件不匹配这一关键挑战。
• 识别并分类由数据科学家、软件工程师和运维人员之间假设和工作流程差异引发的不匹配。
• 开发一种系统化方法，将不匹配映射到机器学习系统组件的可测量属性，以改善系统集成。
• 通过标准化描述符和工具链集成可行性分析，实现不匹配的自动化检测。
• 通过与公共部门实践者合作验证框架，并展示概念验证自动化，支持实际应用。

提出的方法

• 通过与公共部门实践者的访谈和工作坊，收集现实世界中组件不匹配及其后果的案例。
• 挖掘GitHub代码库、文献和灰色文献，识别用于描述机器学习系统组件的现有属性。
• 使用形式化谓词（例如，'Attribute1 + Attribute2 > Attribute5'）将每种不匹配映射到一组相关属性，以定义检测条件。
• 通过差距分析识别缺失属性或未映射的不匹配，再利用领域专业知识对模型进行补充。
• 评估每种属性的数据源可靠性、收集可行性以及自动化潜力，以确定实际实施路径。
• 通过与实践者的迭代反馈验证最终的映射和描述符，并为2–3个关键不匹配开发小规模自动化检测脚本。

实验结果

研究问题

• RQ1 在公共部门环境中，阻碍人工智能系统部署的主要组件不匹配类别有哪些？
• RQ2 哪些系统组件属性可在实践中用于检测和预防这些不匹配？
• RQ3 通过结构化描述符和工具链，自动化检测这些不匹配的可行性如何？
• RQ4 数据科学家、软件工程师和运维人员之间存在的关键假设差异和沟通鸿沟是什么，这些因素如何导致不匹配？
• RQ5 如何设计标准化描述符以支持工具链集成并提升系统可靠性？

主要发现

• 组件不匹配——尤其是数据分布漂移和接口不兼容——是公共部门人工智能系统部署失败的主要原因。
• 大量不匹配源于数据科学家、软件工程师和运维人员之间工作流程差异和隐含假设。
• 本研究识别出一组可操作的属性，可通过基于谓词的条件正式定义和检测不匹配。
• 可行性分析表明，60–70%的识别出的属性可通过人工方式或使用最少工具实现自动化收集，具备实际集成潜力。
• 小规模演示成功通过自定义脚本检测了2–3个不匹配，验证了自动化检测的可行性。
• 最终成果包括经验证的不匹配到属性的映射、用于描述符的XML模式，以及支持工具链采用的示例实现。