[论文解读] Robot hazards: from safety to security

Laura Alzola Kirschgens, Irati Zamalloa Ugarte+3 more|arXiv (Cornell University)|Jun 11, 2018

Wireless Body Area Networks参考文献 2被引用 18

一句话总结

本文主张在机器人领域采取安全优先的方法，警告称随着机器人变得更加互联和自主，漏洞可能带来超越数据泄露的物理危险。本文记录了历史上的机器人事故，分析了其对社会和企业的影响，并呼吁在机器人设计之初就紧急整合安全措施，以防止造成伤害、信任丧失以及新兴机器人时代中的系统性风险。

ABSTRACT

Robotics landscape is experiencing big changes. Robots are spreading and will soon be everywhere. Systems traditionally employed in industry are being replaced by collaborative robots, while more and more professional and consumer robots are introduced in people's daily activities. Robots are increasingly intertwined with other facets of IT and envisioned to get much more autonomy, interacting physically with humans. We claim that, following Personal Computers (PCs) and smartphones, robots are the next technological revolution and yet, robot security is being ignored by manufacturers. The present paper aims to alert about the need of dealing not only with safety but with robot security from the very beginning of the forthcoming technological era. We provide herein a document that reviews robot hazards and analyzes the consequences of not facing these issues. We advocate strongly for a security-first approach as a must to be implemented now.

研究动机与目标

• 强调不安全、互联的机器人在工业、专业和消费场景中日益增长的风险。
• 证明尽管已有个人电脑和智能手机等技术革命的教训，机器人安全仍被忽视。
• 分析机器人故障的现实后果，包括身体伤害、隐私侵犯以及企业形象受损。
• 倡导从仅关注安全的思维模式向机器人开发中的安全优先设计哲学的根本性转变。
• 敦促制造商、监管机构和用户在自主机器人广泛部署之前主动解决安全问题。

提出的方法

• 系统性地记录自1970年代至今在工业、专业和消费领域发生的机器人历史事故。
• 分析涉及机器人相关死亡、故障和安全漏洞的案例研究，以识别反复出现的脆弱点。
• 考察对隐私、企业声誉、法律责任和公众信任的下游影响。
• 与过去的科技革命（如个人电脑、智能手机）进行比较，以揭示安全忽视及其后果的相似之处。
• 使用真实案例——如1979年的机器人致死事件和大众汽车的延迟披露——说明透明度和安全规划中的系统性失败。
• 将研究发现综合为一项呼吁：在机器人开发中主动整合安全措施，强调预防而非事后应对。

实验结果

研究问题

• RQ1 现代互联、自主机器人相关的安全与安全隐患有哪些关键问题？
• RQ2 机器人安全问题的后果与传统IT系统有何不同，特别是在造成身体伤害方面？
• RQ3 高调的机器人故障或安全漏洞对企业形象、法律和公众舆论有何社会、法律和企业影响？
• RQ4 为何安全优先的方法对机器人未来至关重要，特别是在协作机器人和消费级机器人领域？
• RQ5 过去的技术革命（如个人电脑、智能手机）的教训如何为当今负责任的机器人开发提供借鉴？

主要发现

• 尽管存在因漏洞被利用而造成身体伤害的高风险，制造商目前仍忽视机器人安全。
• 历史事件，如1979年福特工厂的机器人致死事件和2015年大众汽车工人的死亡事件，揭示了在公众披露方面存在系统性延迟，且安全措施不足。
• 与个人电脑或智能手机的漏洞不同，机器人安全故障可能导致直接的身体伤害甚至死亡，而不仅仅是数据丢失或隐私侵犯。
• 机器人相关事件严重损害企业形象，媒体报道迅速传播，对公众信任和投资者信心造成负面影响。
• 缺乏透明度和延迟报告——如大众汽车在承认机器人致死事件后延迟十天才披露——破坏了公众和监管机构的信任。
• 安全优先的方法对于防止未来伤害至关重要，因为现代机器人中安全与安全已密不可分。