[论文解读] A Human-Centered Approach to Interactive Machine Learning

Kory W. Mathewson|arXiv (Cornell University)|May 15, 2019

Ethics and Social Impacts of AI参考文献 15被引用 8

一句话总结

本文提出了一种以人为本的交互式机器学习（IML）框架，整合了伦理原则、利益相关者参与和迭代设计，以提升人工智能系统在公平性、问责制和透明度方面的表现。通过在整个开发生命周期中（从假设制定到部署）嵌入人类因素，该方法确保系统具备可用性、可解释性，并与人类价值观和社会需求保持一致。

ABSTRACT

The interactive machine learning (IML) community aims to augment humans' ability to learn and make decisions over time through the development of automated decision-making systems. This interaction represents a collaboration between multiple intelligent systems---humans and machines. A lack of appropriate consideration for the humans involved can lead to problematic system behaviour, and issues of fairness, accountability, and transparency. This work presents a human-centred thinking approach to applying IML methods. This guide is intended to be used by AI practitioners who incorporate human factors in their work. These practitioners are responsible for the health, safety, and well-being of interacting humans. An obligation of responsibility for public interaction means acting with integrity, honesty, fairness, and abiding by applicable legal statutes. With these values and principles in mind, we as a research community can better achieve the collective goal of augmenting human ability. This practical guide aims to support many of the responsible decisions necessary throughout iterative design, development, and dissemination of IML systems.

研究动机与目标

• 通过在IML系统设计中嵌入人类因素，弥合负责任AI原则与现实世界机器学习部署之间的差距。
• 通过结构化的“人在回路”实践，促进交互式机器学习中的公平性、问责制和透明度。
• 指导从业者在整个开发生命周期中将机器学习系统与人类需求、价值观和社会影响对齐。
• 通过在设计、评估和部署阶段主动引入利益相关者，降低奖励错位和意外伤害的风险。
• 提供一份实用且可操作的责任AI开发指南，超越伦理审查委员会的范畴。

提出的方法

• 采用以人为本的设计流程，从定义可测试的假设和识别利益相关者需求开始。
• 通过共情练习、开放沟通和双重用途风险分析，尽早整合利益相关者。
• 使用白板建模和事前分析，映射工作流程并在实施前预测故障模式。
• 实施基线模型（例如，人在回路或“智慧之王”模式）以建立性能基准，并指导功能设计。
• 通过一致的指标、安全测试和对多样化群体的偏见评估，开展迭代评估。
• 在模型复杂度、可解释性、速度和部署约束之间进行权衡分析，以指导优化。

实验结果

研究问题

• RQ1 如何系统性地应用以人为本的设计原则于交互式机器学习系统，以提升公平性和问责制？
• RQ2 利益相关者视角——尤其是受系统影响或持对立立场的群体——在塑造负责任的机器学习开发中发挥什么作用？
• RQ3 如何结构化迭代开发流程，以保持与人类目标的一致性并及早发现故障模式？
• RQ4 哪些评估和沟通策略能确保公共机器学习部署的透明性和可复现性？
• RQ5 如何设计模型部署以预见误用、模型攻击和人类行为风险？

主要发现

• 在假设制定和设计阶段早期纳入利益相关者，可使系统更具可用性、透明度，并与伦理目标保持一致。
• 基线模型（如人工辅助的“智慧之王”系统）有助于在完全自动化之前识别关键功能和性能预期。
• 通过多样化群体的定期评估，可发现对部署前必须解决的偏见和公平性问题。
• 在可解释性、速度和复杂度之间进行权衡分析，有助于实现更负责任的模型选择与优化。
• 通过真实用户的可用性测试，可揭示人类如何解释和与模型互动，包括潜在的误用或对抗性行为。
• 清晰传达局限性、风险和可复现性实践，可增强信任，并支持公众对机器学习系统的采纳。