[论文解读] Beyond Near- and Long-Term: Towards a Clearer Account of Research Priorities in AI Ethics and Society

Carina Prunkl, Jess Whittlestone|arXiv (Cornell University)|Jan 13, 2020

Ethics and Social Impacts of AI参考文献 16被引用 15

一句话总结

本文批判了人工智能伦理与社会研究中对短期与长期的过度使用，认为这种二分法过于简化了复杂的研究优先级。文章提出一个四维框架——能力、影响、确定性与极端性——将每个维度视为连续谱，以提升清晰度、促进协作，并识别被忽视的研究领域。

ABSTRACT

One way of carving up the broad "AI ethics and society" research space that has emerged in recent years is to distinguish between "near-term" and "long-term" research. While such ways of breaking down the research space can be useful, we put forward several concerns about the near/long-term distinction gaining too much prominence in how research questions and priorities are framed. We highlight some ambiguities and inconsistencies in how the distinction is used, and argue that while there are differing priorities within this broad research community, these differences are not well-captured by the near/long-term distinction. We unpack the near/long-term distinction into four different dimensions, and propose some ways that researchers can communicate more clearly about their work and priorities using these dimensions. We suggest that moving towards a more nuanced conversation about research priorities can help establish new opportunities for collaboration, aid the development of more consistent and coherent research agendas, and enable identification of previously neglected research areas.

研究动机与目标

• 解决因过度使用短期与长期二分法而引发的人工智能伦理与社会研究中的日益严重的混淆与沟通障碍。
• 指出短期/长期二分法无法准确反映研究优先级、信念与假设之间的细微差异。
• 通过将短期/长期二分法拆解为四个独立维度，提出一种更系统、更透明的研究优先级分类方式。
• 通过清晰表达人工智能伦理研究中潜在信念与动机，促进跨学科协作。
• 帮助识别那些无法简单归入传统短期/长期框架的被忽视的研究领域。

提出的方法

• 将短期/长期二分法拆解为四个维度：(1) 人工智能能力的短期/长期，(2) 社会影响的短期/长期，(3) 未来结果的确定性，(4) 潜在风险的极端性。
• 主张每个维度应被视为连续谱而非二元对立，以减少研究分类中的过度简化。
• 分析不同研究优先级往往根植于对人工智能进展、风险严重性与可预测性的规范性与实证性信念。
• 为研究人员提供具体建议，包括明确陈述其假设、澄清术语，并积极回应不同观点。
• 倡导学术论坛与出版平台支持在人工智能伦理研究中开展关于基础性分歧的结构化对话。
• 通过现有研究议程（如Dafoe、Parson等人）的实例，说明更清晰的框架如何提升透明度与一致性。

实验结果

研究问题

• RQ1 为何短期/长期二分法在人工智能伦理与社会研究优先级的表述中变得具有问题？
• RQ2 对人工智能进展、风险严重性与可预测性的不同信念，如何塑造人工智能伦理领域内研究优先级的分歧？
• RQ3 短期/长期二分法在多大程度上掩盖了人工智能能力与社会影响类型之间的关键差异？
• RQ4 何种替代性框架能更好地捕捉人工智能伦理与社会研究优先级的复杂性？
• RQ5 研究人员如何通过明确表达其潜在假设与动机，来改善沟通与协作？

主要发现

• 短期/长期二分法在应用中极不一致，常掩盖深层的规范性与实证性分歧，而非澄清它们。
• 该二分法未能捕捉研究优先级的完整谱系，尤其是关注中等规模影响或能力的研究。
• 将短期/长期视为四个维度（能力、影响、确定性、极端性）上的连续谱，可实现更精确、更透明的研究分类。
• 明确传达对人工智能进展、风险严重性与可预测性的潜在假设，可减少误解并提升跨学科协作。
• 许多重要研究领域目前被忽视，因其无法简单归入短期/长期二元框架，尤其是涉及中等规模影响或中等确定性风险的领域。
• 对研究优先级的更清晰表述，可带来更连贯的研究议程，并为不同研究群体之间的协作开辟新机遇。