[论文解读] Activism by the AI Community: Analysing Recent Achievements and Future Prospects

Haydn Belfield|arXiv (Cornell University)|Jan 17, 2020

Ethics and Social Impacts of AI被引用 8

一句话总结

本文分析了人工智能社区近年来的 activism，通过认知共同体和劳工组织的视角，审视其成就与未来潜力。研究发现，协调一致的 activism 成功归因于共享的专业文化以及稀缺人工智能人才所带来的高议价能力，这两者均为人工智能发展中持续产生伦理影响所不可或缺的要素。

ABSTRACT

The artificial intelligence community (AI) has recently engaged in activism in relation to their employers, other members of the community, and their governments in order to shape the societal and ethical implications of AI. It has achieved some notable successes, but prospects for further political organising and activism are uncertain. We survey activism by the AI community over the last six years; apply two analytical frameworks drawing upon the literature on epistemic communities, and worker organising and bargaining; and explore what they imply for the future prospects of the AI community. Success thus far has hinged on a coherent shared culture, and high bargaining power due to the high demand for a limited supply of AI talent. Both are crucial to the future of AI activism and worthy of sustained attention.

研究动机与目标

• 分析过去六年中人工智能社区 activism 的兴起及其影响。
• 理解促成人工智能专业人士影响人工智能发展伦理与社会结果的结构性与文化因素。
• 运用认知共同体与劳工组织的理论框架，评估人工智能 activism 的可持续性。
• 识别未来人工智能 activism 可能成功或面临局限的条件。

提出的方法

• 本研究对2014至2020年间的人工智能社区 activism 进行定性调查，聚焦关键事件与组织行动。
• 应用认知共同体框架，分析人工智能专业人士之间共享的规范、知识与集体认同。
• 运用劳工组织与议价能力理论，评估人工智能从业者因人才稀缺与市场需求而获得的影响力。
• 综合分析高调 activism 的案例研究，例如反对军事人工智能合同以及主要科技公司内部政策的变革。
• 整合科技领域伦理、治理与专业动员相关学术文献的见解。
• 基于制度、文化与经济因素，评估 activism 长期可行性的依据。

实验结果

研究问题

• RQ1 哪些因素使人工智能社区能够有效抵制不道德的人工智能应用？
• RQ2 共享的专业规范与认知共同体如何促进人工智能伦理领域的协调行动？
• RQ3 对人工智能人才的高需求在多大程度上为伦理组织化提供了议价能力？
• RQ4 劳动力市场动态等结构性条件如何影响人工智能 activism 的可持续性？
• RQ5 人工智能社区内有组织的伦理 activism 存在哪些局限性，未来前景如何？

主要发现

• 人工智能社区在影响企业与政府的人工智能政策方面取得了显著成就，包括取消有争议的军事人工智能合同。
• 以伦理责任为核心的强烈且共享的专业文化，是集体行动得以实现的基础性推动力。
• 由于具备稀缺技能的 AI 人才供给有限，议价能力较高，显著增强了该群体推动伦理标准的能力。
• 未来 activism 的可持续性，关键取决于能否同时维系文化凝聚力与由人才稀缺带来的经济杠杆。
• 若制度结构或市场动态削弱了文化统一性或议价能力，未来 activism 可能面临挑战。
• 本文结论认为，文化一致性与经济杠杆均至关重要，必须持续关注，以保障人工智能伦理治理的有效性。