[论文解读] Rethinking Trust in Social Robotics

Rachele Carli, Amro Najjar|arXiv (Cornell University)|Sep 14, 2021

Ethics and Social Impacts of AI参考文献 41被引用 5

一句话总结

本文主张不应将人机信任视为需最大化的目标，而应将其视为一种情境敏感、受伦理约束的现象，需通过跨学科评估来理解。文章提出应从‘激发信任’转向确定最小且适当的信任水平——以可信度、透明度和以人为本的设计为指导，从而降低操纵和过度信任的风险，同时确保人机协作的有效性。

ABSTRACT

In 2018 the European Commission highlighted the demand of a human-centered approach to AI. Such a claim is gaining even more relevance considering technologies specifically designed to directly interact and physically collaborate with human users in the real world. This is notably the case of social robots. The domain of Human-Robot Interaction (HRI) emerged to investigate these issues. "Human-robot trust" has been highlighted as one of the most challenging and intriguing factors influencing HRI. On the one hand, user studies and technical experts underline how trust is a key element to facilitate users' acceptance, consequently increasing the chances to pursue the given task. On the other hand, such a phenomenon raises also ethical and philosophical concerns leading scholars in these domains to argue that humans should not trust robots. However, trust in HRI is not an index of fragility, it is rooted in anthropomorphism, and it is a natural characteristic of every human being. Thus, instead of focusing solely on how to inspire user trust in social robots, this paper argues that what should be investigated is to what extent and for which purpose it is suitable to trust robots. Such an endeavour requires an interdisciplinary approach taking into account (i) technical needs and (ii) psychological implications.

研究动机与目标

• 挑战当前研究中追求用户对社交机器人信任最大化的主流趋势，该趋势存在伦理操纵和过度信任的风险。
• 探究人类为何在哲学警告下仍会自然地拟人化并信任机器人。
• 区分信任（一种心理状态）与可信度（一种客观、可设计的属性），以指导伦理化机器人开发。
• 提出从‘无信任则无使用’的范式转向‘最小足够信任’模型，确保功能实现的同时保护用户完整性。
• 倡导在设计社会可接受机器人时，整合技术、心理、伦理和法律等多重视角。

提出的方法

• 将信任视为根植于人类心理学、人类学与认知科学的多学科建构，强调其在应对不确定性中的作用。
• 审视反对信任人工智能系统的哲学论点，特别是围绕欺骗、操纵与人类自主性丧失的议题。
• 提出拟人化是人类固有的倾向，使对机器人的信任不可避免，因此设计者应承担相应责任，而非回避。
• 区分信任（主观、情感、认知）与可信度（客观、可测量、基于设计），主张将后者作为技术和伦理的优先事项。
• 提出在机器人设计中从信任优化转向可信度优化，强调透明度、材料完整性与控制权。
• 将法律框架（尤其是欧盟拟议的《人工智能法案》）融入机器人开发，以确立伦理标准与人权保障。

实验结果

研究问题

• RQ1 在操纵与欺骗风险存在的前提下，鼓励用户信任社交机器人在伦理与心理上是否具有正当性？
• RQ2 尽管存在哲学上的反对意见，人类为何仍会自然地信任机器人？这一现象如何在设计中负责任地加以利用？
• RQ3 如何客观地衡量并工程化可信度，而非依赖对信任的主观感知？
• RQ4 在不损害用户自主权或完整性的情况下，有效人机协作所需的最低信任水平是什么？
• RQ5 如何在现实情境中结构化地整合跨学科合作（技术、心理、伦理与法律），以引导负责任的机器人开发？

主要发现

• 对社交机器人的信任并非缺陷或漏洞，而是拟人化与人类应对不确定性的认知策略的自然结果。
• 当前研究聚焦于最大化信任在伦理上存在问题，因其可能操纵用户感知并削弱其自主性。
• 可信度——即机器人客观可设计的属性——应优先于信任，以实现透明化与用户控制。
• 通过设计透明性，用户能够理解并掌控机器人行为，减少对主观信任的依赖，从而降低欺骗风险。
• 通过跨学科评估可确定有效协作所需的最低信任水平，实现功能与伦理保障的平衡。
• 法律与伦理框架（如欧盟拟议的《人工智能法案》）可作为约束性标准，确保机器人开发与基本人权及完整性相一致。