[论文解读] Give Me a Choice: The Consequences of Restricting Choices Through AI-Support for Perceived Autonomy, Motivational Variables, and Decision Performance

Cedric Faas, Richard Bergs+3 more|arXiv (Cornell University)|Oct 10, 2024

Impact of AI and Big Data on Business and Society被引用 4

一句话总结

本研究探讨在人工智能支持的决策中限制选择对感知自主性、动机和绩效的影响。在274名参与者参与的模拟无人机监管任务中，将人工智能推荐的操作选项限制为一项，显著提高了决策准确性，但降低了感知自主性和任务意义感——这些负面影响随时间推移而加剧，而在多选项条件下，更高的自主感则预测了更好的绩效。

ABSTRACT

Design optimizations in human-AI collaboration often focus on cognitive aspects like attention and task load. Drawing on work design literature, we propose that effective human-AI collaboration requires broader consideration of human needs (e.g., autonomy) that affect motivational variables (e.g., meaningfulness). In a simulated drone oversight experiment, participants (N=274, between-subject) faced 10 critical decision-making scenarios with varying levels of choice restrictions with an AI recommending only 1, 2, 4 or all 6 possible actions. Restricting participants to one selectable action improved task performance (with a perfect AI) but significantly reduced perceived autonomy and work meaningfulness, and these effects intensified over time. In conditions with multiple action choices, participants with higher perceived autonomy performed better. The findings underscore the importance of considering motivational factors to design successful long-term human-AI collaboration at work.

研究动机与目标

• 探讨通过人工智能决策支持限制选择如何影响人类-人工智能协作中感知自主性与动机变量。
• 调查选择减少对人工智能支持决策中心理需求与任务绩效的长期影响。
• 探讨人类-人工智能监管角色中感知自主性、任务意义感与决策准确性的关系。
• 强调在人类-人工智能交互设计中，除认知优化外，整合动机与心理需求的重要性。
• 提供实证证据，揭示在人工智能系统中限制用户选择时，绩效提升与动机成本之间的权衡。

提出的方法

• 在模拟无人机监管任务中，对274名参与者开展组间实验研究。
• 参与者面临10个关键决策场景，其中人工智能推荐6、4、2或1种可选操作。
• 采用受控实验设计，操纵可选操作数量（1、2、4或6种），同时保持人工智能推荐的准确性。
• 在时间和不同条件下，测量感知自主性、任务意义感、动机和决策准确性。
• 应用工作设计理论（如Hackman & Oldham, 1975；Ryan & Deci, 2000）来界定心理需求与动机变量。
• 通过自评数据收集感知自主性、意义感与动机，客观绩效则以决策准确性衡量。

(a) One Selectable Actions

实验结果

研究问题

• RQ1 通过人工智能支持限制可选操作数量，如何影响参与者在监管任务中的感知自主性？
• RQ2 选择限制对人类-人工智能决策中感知任务意义感与内在动机有何影响？
• RQ3 在不同选择限制水平下，感知自主性与决策准确性之间有何关系？
• RQ4 在重复决策场景中，选择限制对自主性与动机的影响是否会随时间变化？
• RQ5 动机变量在选择限制与决策绩效关系之间起到多大程度的中介作用？

主要发现

• 将人工智能支持的选择限制为一项，显著降低了参与者相对于拥有两项或以上可选操作条件下的感知自主性。
• 感知自主性的下降伴随着感知任务意义感的显著下降，尤其在单选项条件下更为明显。
• 自主性与意义感的负面影响随时间推移而加剧，表明选择受限存在长期动机成本。
• 在多选项条件下，感知自主性较高的参与者表现出显著更高的决策准确性。
• 尽管单选项条件下决策准确性因人工智能表现完美而提升，但心理福祉与动机的损失会损害长期协作的有效性。
• 研究结果表明动机与绩效之间存在相互作用关系：高动机可提升绩效，而高绩效也可能强化动机，但选择限制会破坏这一良性循环。

(b) Two Selectable Actions