[论文解读] Where Responsible AI meets Reality: Practitioner Perspectives on Enablers for shifting Organizational Practices

Bogdana Rakova, Jingying Yang+2 more|arXiv (Cornell University)|Jun 22, 2020

Ethics and Social Impacts of AI参考文献 30被引用 40

一句话总结

本论文通过跨行业的26位从业者访谈分析组织文化和结构如何塑造负责任AI努力，概述普遍、新兴和愿景实践，以及四个指导性的组织性问题。

ABSTRACT

Large and ever-evolving technology companies continue to invest more time and resources to incorporate responsible Artificial Intelligence (AI) into production-ready systems to increase algorithmic accountability. This paper examines and seeks to offer a framework for analyzing how organizational culture and structure impact the effectiveness of responsible AI initiatives in practice. We present the results of semi-structured qualitative interviews with practitioners working in industry, investigating common challenges, ethical tensions, and effective enablers for responsible AI initiatives. Focusing on major companies developing or utilizing AI, we have mapped what organizational structures currently support or hinder responsible AI initiatives, what aspirational future processes and structures would best enable effective initiatives, and what key elements comprise the transition from current work practices to the aspirational future.

研究动机与目标

• 调查组织文化和结构如何影响负责任AI倡议在行业中的有效性。
• 识别在组织中塑造负责任AI工作的大众化、新兴和愿景性做法。
• 理解从业者在推动或阻碍负责任AI方面的角色、激励和治理机制。
• 提出可行的洞察和基于工作坊得出的框架，以支持组织向负责任AI的转型。

提出的方法

• 对来自19个组织、跨4大洲的从业者进行了26次半结构化访谈，以探索实际中的负责任AI工作。
• 应用情境设计技术（解读会和亲和图法）进行定性分析以提炼主题。
• 对跨组织的回答进行比较，识别组织结构和流程中的共性促进因素与障碍。
• 在一个机器学习会议上组织了工作坊，以验证洞见并与多元受众共同制定建议。

实验结果

研究问题

• RQ1 组织在负责任AI问题上应何时以何种方式行动（被动应对 vs. 主动 vs. 前瞻性）？
• RQ2 如何衡量负责任AI的成功（性能权衡、可溯性还是社会影响）？
• RQ3 需要哪些内部结构以有效支持负责任AI工作？
• RQ4 如何解决激励、问责与组织使命之间的矛盾？
• RQ5 哪些实际的结构与流程可以促使负责任AI在组织间的扩展？

主要发现

• 多数从业者描述负责任AI工作是被动的，由媒体或监管等外部压力驱动。
• 新兴做法包括面向组织层面的框架、指标，以及尚未普及的主动评估流程。
• 愿景性未来设想在所有与产品相关的流程中整合负责任AI，具前瞻性的风险预见和社会影响指标。
• 组织必须解决的四个转变性问题：何时/如何行动、如何衡量成功、需要的内部结构，以及如何化解矛盾。
• 访谈强调需要跨层级的否决权、更好地协调内部/外部压力、健全的内部沟通，以及对负责任AI倡议中相互依赖关系的认知。
• 提出了一条从普遍/被动做法过渡到愿景性、整合且与价值观对齐的组织结构的过渡路径。