[论文解读] Democratisation of Usable Machine Learning in Computer Vision

Raymond Bond, Ansgar Koene+8 more|arXiv (Cornell University)|Feb 18, 2019

Teaching and Learning Programming参考文献 16被引用 5

一句话总结

本文提出了一套框架，通过识别非专家用户所需的关键数据科学素养概念，实现计算机视觉领域可用机器学习的负责任民主化。该框架引入了SWOT分析，并提出了一套精选的核心机器学习素养原则，如理解偏差、过拟合、数据泄露和性能度量等，以确保即使在机器学习工具日益普及至非专业人士的情况下，也能实现伦理化部署。

ABSTRACT

Many industries are now investing heavily in data science and automation to replace manual tasks and/or to help with decision making, especially in the realm of leveraging computer vision to automate many monitoring, inspection, and surveillance tasks. This has resulted in the emergence of the 'data scientist' who is conversant in statistical thinking, machine learning (ML), computer vision, and computer programming. However, as ML becomes more accessible to the general public and more aspects of ML become automated, applications leveraging computer vision are increasingly being created by non-experts with less opportunity for regulatory oversight. This points to the overall need for more educated responsibility for these lay-users of usable ML tools in order to mitigate potentially unethical ramifications. In this paper, we undertake a SWOT analysis to study the strengths, weaknesses, opportunities, and threats of building usable ML tools for mass adoption for important areas leveraging ML such as computer vision. The paper proposes a set of data science literacy criteria for educating and supporting lay-users in the responsible development and deployment of ML applications.

研究动机与目标

• 解决非专业人士在缺乏足够理解的情况下使用可访问的计算机视觉机器学习工具所引发的伦理风险。
• 识别非专家用户在负责任部署机器学习应用时所需的关键数据科学素养概念。
• 提出一种结构化的教育框架，以补充可用的机器学习平台，防止误用和不道德结果。
• 在机器学习民主化带来的益处与用户责任和知情决策的需求之间取得平衡。
• 通过关键机器学习概念的根基性素养，支持开发伦理化、透明且可靠的机器学习系统。

提出的方法

• 开展SWOT分析，以评估计算机视觉领域机器学习民主化的优点、缺点、机遇与威胁。
• 识别并分类非专家用户所需的核心数据科学素养概念，包括偏差、过拟合、类别不平衡、概念漂移、数据泄露、混杂变量以及性能度量。
• 提出将即时教育功能集成到机器学习平台中，以在模型开发过程中实时解释这些概念。
• 强调机器学习平台需要具备直观的、基于网络的界面，以减少对编码和专业术语的依赖。
• 引入“可用机器学习谱系”的概念，以区分操作可用性与理解可用性之间的差异。
• 倡导通过以素养为导向的设计原则，将伦理意识和批判性思维嵌入机器学习工具开发中。

实验结果

研究问题

• RQ1 非专家用户必须理解哪些核心数据科学素养概念，才能在计算机视觉中负责任地部署机器学习模型？
• RQ2 如何设计可用的机器学习平台，以在不依赖专家级机器学习知识的情况下支持伦理决策？
• RQ3 在监控和医疗等高风险领域，广泛且未经监管地访问自动化机器学习工具的主要风险是什么？
• RQ4 如何将机器学习素养有效整合到机器学习平台的用户体验中，以防止误用？
• RQ5 数据泄露、过拟合和准确率悖论等概念在多大程度上会损害非专家用户的模型可靠性？

主要发现

• 计算机视觉领域机器学习的民主化，因用户对核心机器学习概念理解不足，增加了伦理或不准确部署的风险。
• 非专家用户容易因准确率悖论而误解模型性能，即高准确率可能反映的是类别分布而非真正的预测能力。
• 数据泄露和混杂变量可能导致模型在测试中表现准确，但在实际部署中因虚假相关性而失效。
• 概念漂移和类别不平衡显著影响模型泛化能力，用户必须理解这些因素，以避免在生产环境中出现过度或不足表现。
• 过拟合仍是主要风险，即模型在训练数据上表现良好，但在新数据上失效，尤其当用户缺乏对模型验证实践的认知时。
• 在机器学习平台中集成即时教育功能，可显著提升用户意识，促进负责任的模型部署。