[论文解读] Bots as Virtual Confederates: Design and Ethics

P. M. Krafft, Michael W. Macy+1 more|arXiv (Cornell University)|Nov 2, 2016

Evolutionary Game Theory and Cooperation参考文献 33被引用 18

一句话总结

本文提出将机器人作为在线实地实验中的“虚拟同谋者”（virtual confederates），以实现可扩展、可复现且受控的社会科学研究。文章勾勒了此类机器人的设计空间，并提供了伦理准则，以应对欺骗、知情同意及潜在伤害等问题，结合了如 Facebook 情绪传染研究和 Microsoft 的 Tay 机器人等现实案例，为数字社交环境中的负责任实验提供参考。

ABSTRACT

The use of bots as virtual confederates in online field experiments holds extreme promise as a new methodological tool in computational social science. However, this potential tool comes with inherent ethical challenges. Informed consent can be difficult to obtain in many cases, and the use of confederates necessarily implies the use of deception. In this work we outline a design space for bots as virtual confederates, and we propose a set of guidelines for meeting the status quo for ethical experimentation. We draw upon examples from prior work in the CSCW community and the broader social science literature for illustration. While a handful of prior researchers have used bots in online experimentation, our work is meant to inspire future work in this area and raise awareness of the associated ethical issues.

研究动机与目标

• 提出将机器人作为虚拟同谋者（confedabots）作为在线实地实验中人类同谋者的可扩展替代方案。
• 解决在在线社会科学实验中使用机器人进行欺骗和缺乏知情同意所固有的伦理挑战。
• 提供一个设计空间与伦理框架，平衡方法论严谨性与负责任的研究实践。
• 通过基于证据的准则预先应对伦理风险，激励未来使用 confedabots 的研究。
• 通过使用算法控制的机器人实现受控的大规模在线实验，加强计算社会科学中的因果推断。

提出的方法

• 基于协同计算（CSCW）与社会心理学中的既有案例（如 Asch 和 Milgram 实验）设计 confedabots 的概念框架。
• 提出一个设计空间，涵盖机器人在在线环境中的人口统计特征、个性、行为及互动模式的控制。
• 应用源自《贝尔蒙特报告》和机构审查委员会（IRB）标准的伦理准则，强调风险-收益分析与伤害最小化。
• 使用现实案例（如 Facebook 情绪传染研究与 Microsoft 的 Tay 机器人）说明伦理陷阱，并指导最佳实践。
• 倡导通过开源机器人代码实现透明化，并优先选择机器人已普遍存在且社会接受度高的平台。
• 在可行时推荐采用自愿参与机制或与平台所有者合作，以增强知情同意与研究合法性。

实验结果

研究问题

• RQ1 如何设计机器人，使其在大规模在线实地实验中有效充当虚拟同谋者？
• RQ2 在未获知情同意的情况下操纵在线社交行为时，使用机器人会引发哪些伦理风险？
• RQ3 研究人员如何在使用 confedabots 的在线社会科学实验中，既保持实验有效性又最小化伤害？
• RQ4 在何种情境下，使用 confedabots 更可能被认定为伦理上可接受，尤其是涉及欺骗时？
• RQ5 如何更新在线实验的伦理标准，以应对自主数字代理带来的独特挑战？

主要发现

• 作为虚拟同谋者的机器人可实现可扩展、可复现且透明的在线实地实验，对社交属性与行为具有精细控制能力。
• 使用 confedabots 可提升社交媒体研究中的因果推断能力，例如测试特定信息策略对志愿者动员的影响。
• 当实验涉及欺骗或潜在情绪伤害时，伦理担忧会显著加剧，如 Facebook 情绪传染研究引发的公众反弹即为明证。
• Tay 机器人的事件凸显了不受控学习算法可能导致有害输出的风险，强调了在机器人设计中实施稳健行为约束的必要性。
• 研究人员应优先选择机器人已普遍存在且社会接受度高的平台，以减少用户感到意外或冒犯的可能性。
• 即使未造成直接伤害，公众对未经同意的实验仍可能产生负面反应，表明亟需提升透明度与公众对话。