[论文解读] Assessing the impact of machine intelligence on human behaviour: an interdisciplinary endeavour

Emília Gómez, Carlos D. Castillo+24 more|arXiv (Cornell University)|Jun 7, 2018

Explainable Artificial Intelligence (XAI)参考文献 3被引用 6

一句话总结

本文报告了首届 HUMAINT 研讨会的成果，汇集了跨学科专家，评估机器智能对人类行为的影响，特别是在认知、决策和社 会影响方面的表现。研究识别出关键的研究挑战、评估需求和监管策略，并提出一个综合框架，用于跨领域研究人工智能对行为的影响。

ABSTRACT

This document contains the outcome of the first Human behaviour and machine intelligence (HUMAINT) workshop that took place 5-6 March 2018 in Barcelona, Spain. The workshop was organized in the context of a new research programme at the Centre for Advanced Studies, Joint Research Centre of the European Commission, which focuses on studying the potential impact of artificial intelligence on human behaviour. The workshop gathered an interdisciplinary group of experts to establish the state of the art research in the field and a list of future research challenges to be addressed on the topic of human and machine intelligence, algorithm's potential impact on human cognitive capabilities and decision making, and evaluation and regulation needs. The document is made of short position statements and identification of challenges provided by each expert, and incorporates the result of the discussions carried out during the workshop. In the conclusion section, we provide a list of emerging research topics and strategies to be addressed in the near future.

研究动机与目标

• 评估机器智能对人类认知过程和决策行为的多维度影响。
• 识别在理解人工智能系统如何从社会、心理和伦理维度影响人类行为方面存在的关键研究空白与挑战。
• 为未来关于人工智能评估、监管和人机交互的跨学科研究奠定基础。
• 促进人工智能、认知科学、伦理学和人机交互领域专家之间的合作，以应对新兴的社会挑战。
• 制定可操作的研究策略，用于在真实行为情境中评估和治理人工智能系统。

提出的方法

• 召集了来自人工智能、认知科学、伦理学和人机交互领域的26位专家参与跨学科研讨会。
• 收集各领域专家的立场陈述与研究挑战，以梳理当前知识状态。
• 综合讨论成果，识别新兴研究主题与方法论需求。
• 提出通过跨领域协作与伦理考量评估人工智能行为影响的框架。
• 聚焦于识别影响人类行为的人工智能系统的评估指标与监管路径。
• 整合多元视角的洞见，以指导未来关于人机交互与社会影响的研究。

实验结果

研究问题

• RQ1 机器智能如何影响人类的认知能力，如注意力、记忆与推理？
• RQ2 在日常情境中长期与人工智能系统互动的心理与行为后果是什么？
• RQ3 如何评估人工智能系统对决策与社会行为的社会影响？
• RQ4 需要哪些监管与伦理框架，以确保人工智能的负责任开发与部署？
• RQ5 哪些跨学科研究策略最有效于研究人工智能的长期行为影响？

主要发现

• 研讨会识别出在认知、社会与伦理维度理解人工智能行为影响方面，亟需开展跨学科研究。
• 各方日益达成共识，认为必须开发标准化的人工智能系统行为影响评估方法。
• 专家强调了注意力操控、批判性思维减弱以及决策中算法偏见等风险。
• 监管与伦理监督机制被认定为确保人工智能部署透明度与问责制的关键要素。
• 心理学、人工智能与人机交互的洞见整合，对设计负责任的人工智能系统至关重要。
• 已制定未来研究路线图，强调协作、评估框架与政策相关研究。