[论文解读] From OECD to India: Exploring cross-cultural differences in perceived trust, responsibility and reliance of AI and human experts

Vishakha Agrawal, Serhiy Kandul+2 more|arXiv (Cornell University)|Jul 28, 2023

Ethics and Social Impacts of AI被引用 4

一句话总结

本项跨文化研究通过基于任务的模拟，比较了经合组织（OECD）与印度参与者在信任、责任及对人工智能（AI）与人类专家依赖程度上的差异。结果显示，经合组织参与者更信任AI，但对其责任认定较低；而印度参与者更信任人类，且对AI与人类专家均赋予同等且较高的责任，凸显了在AI系统道德责任归属上的文化差异。

ABSTRACT

AI is getting more involved in tasks formerly exclusively assigned to humans. Most of research on perceptions and social acceptability of AI in these areas is mainly restricted to the Western world. In this study, we compare trust, perceived responsibility, and reliance of AI and human experts across OECD and Indian sample. We find that OECD participants consider humans to be less capable but more morally trustworthy and more responsible than AI. In contrast, Indian participants trust humans more than AI but assign equal responsibility for both types of experts. We discuss implications of the observed differences for algorithmic ethics and human-computer interaction.

研究动机与目标

• 调查经合组织与印度人群在对人工智能（AI）与人类专家的信任、责任及依赖程度上的跨文化差异。
• 解决当前AI感知研究中印度及全球南方样本代表性不足的问题，该类研究主要基于西方数据。
• 探讨文化维度（尤其是个人主义与集体主义）如何塑造人类-AI协作中的道德责任认知。
• 检验基于任务的互动是否揭示出与自我报告量表不同的信任与AI依赖模式。
• 通过识别AI责任归属中的文化依存模式，为算法伦理与人机交互研究做出贡献。

提出的方法

• 设计了一款交互式、基于情境的模拟游戏，参与者需在风险与不确定性下做决策，选择采纳AI或人类专家的建议。
• 参与者被分配至经合组织（OECD）或印度样本，完成四项任务，涉及‘拯救’或‘杀死’的决策，同时接收专家建议。
• 采用混合效应线性回归模型分析依赖度、信任度与责任度，固定效应包括任务、情境与专家类型，随机截距按个体设置。
• 模型包含文化、专家类型与情境的交互项，以检验不同群体在依赖与责任上的差异。
• 使用标准化量表测量对AI、人类专家及AI开发者的感知信任度、道德信任度与责任度。
• 实验设计确保人类参与者保有最终决策权，模拟具备撤销能力的真实世界人机协作。

实验结果

研究问题

• RQ1 经合组织与印度参与者在对AI与人类专家的信任感知上存在何种差异？
• RQ2 在AI与人类专家（包括AI开发者）的责任感知上，跨文化差异体现在哪些方面？
• RQ3 在不同文化与决策情境下，对AI与人类建议的依赖程度如何变化？
• RQ4 文化维度（如个人主义-集体主义）在多大程度上影响人类-AI团队中的责任归属？
• RQ5 在西方样本中，若决策过程中存在人类‘最终决定权’，是否能减少对AI的责任归属差距？

主要发现

• 经合组织参与者在能力信任方面更信任AI，但认为人类在道德信任与责任承担方面更可靠。
• 印度参与者更信任人类专家而非AI，但对AI与人类专家均赋予同等且显著高于量表中点的平均责任评分。
• 在任一文化中，对AI与人类建议的依赖程度无显著差异，尽管经合组织参与者在‘拯救’情境中略有降低依赖。
• 经合组织参与者在后期任务中对专家建议的依赖度上升，而印度参与者则保持稳定。
• 印度参与者对AI及其开发者的责任归属显著高于经合组织参与者，后者对AI及其生产者未表现出显著的责任归属。
• 文化与情境类型的交互作用表明，文化在依赖模式上的差异微乎其微，但责任归属存在显著分歧，尤其体现在对AI及其创造者的责任认知上。