[论文解读] Securing Autonomous Service Robots through Fuzzing, Detection, and Mitigation

Chundong Wang, Yee Ching Tok+3 more|arXiv (Cornell University)|Mar 12, 2020

Smart Grid Security and Resilience参考文献 41被引用 4

一句话总结

本文提出 RoboFuzz，一种定向模糊测试框架，通过注入合理但恶意的传感器数值，系统性地测试自主服务机器人的控制程序，以暴露其中的漏洞。此外，本文还引入了 Shade 和 Remit——基于历史障碍物记录来检测和缓解欺骗性传感器数据的检测与缓解算法，仅造成 4.1% 的工作效能损失，实测中实现 93.3% 的攻击成功率。

ABSTRACT

Autonomous service robots share social spaces with humans, usually working together for domestic or professional tasks. Cyber security breaches in such robots undermine the trust between humans and robots. In this paper, we investigate how to apprehend and inflict security threats at the design and implementation stage of a movable autonomous service robot. To this end, we leverage the idea of directed fuzzing and design RoboFuzz that systematically tests an autonomous service robot in line with the robot's states and the surrounding environment. The methodology of RoboFuzz is to study critical environmental parameters affecting the robot's state transitions and subject the robot control program with rational but harmful sensor values so as to compromise the robot. Furthermore, we develop detection and mitigation algorithms to counteract the impact of RoboFuzz. The difficulties mainly lie in the trade-off among limited computation resources, timely detection and the retention of work efficiency in mitigation. In particular, we propose detection and mitigation methods that take advantage of historical records of obstacles to detect inconsistent obstacle appearances regarding untrustworthy sensor values and navigate the movable robot to continue moving so as to carry on a planned task. By doing so, we manage to maintain a low cost for detection and mitigation but also retain the robot's work efficacy. We have prototyped the bundle of RoboFuzz, detection and mitigation algorithms in a real-world movable robot. Experimental results confirm that RoboFuzz makes a success rate of up to 93.3% in imposing concrete threats to the robot while the overall loss of work efficacy is merely 4.1% at the mitigation mode.

研究动机与目标

• 为解决移动式自主服务机器人存在的关键安全缺口，这类机器人因计算资源有限且具备移动性，易受基于传感器的网络攻击影响。
• 开发一种实用的、可在设备端运行的检测与缓解机制，该机制在严苛的资源约束下仍能保持任务连续性。
• 通过定向模糊测试，系统性地识别机器人控制程序中的漏洞，方法是模拟真实但具有破坏性的传感器输入。
• 通过在设计与实现阶段加强安全性，提升人类-机器人共存环境中的机器人可信度。
• 实现实时攻击检测与恢复，无需依赖云端认证或远程计算。

提出的方法

• 设计并实现 RoboFuzz，一种定向模糊测试框架，根据机器人的当前状态和环境上下文生成有害传感器数值，以触发控制程序中的缺陷。
• 使用 Radamsa——一种先进的模糊测试工具——生成具有挥发性和恶意性的传感器输入，以模拟真实但具有欺骗性的环境读数。
• 开发 Shade 算法，通过将实时障碍物外观与历史记录进行比对，识别出表明传感器数据被欺骗的不一致现象。
• 设计 Remit 算法，当检测到被欺骗的传感器数值时，引导机器人采用安全轨迹继续执行任务。
• 将 Shade 和 Remit 集成到真实世界的清洁机器人原型中，以验证其在资源受限的设备端运行下的性能表现。
• 利用历史障碍物数据，在无需外部云支持的前提下，维持检测准确率与导航效率。

实验结果

研究问题

• RQ1 如何系统性地生成基于传感器的网络攻击，以破坏移动式自主服务机器人的控制逻辑？
• RQ2 何种设备端检测机制可仅利用本地历史数据，有效识别被欺骗的传感器数值？
• RQ3 何种缓解策略可在严格的计算与能效约束下，维持高任务效能？
• RQ4 定向模糊测试在破坏机器人控制程序方面，相较于通用模糊测试工具有何优势？
• RQ5 在真实世界部署中，检测与缓解机制能否在最小性能退化下保持机器人功能？

主要发现

• RoboFuzz 在关键状态转换期间注入合理但有害的传感器数值，成功实现了 93.3% 的控制程序破坏成功率。
• 检测算法 Shade 仅依靠本地历史数据，成功识别出由被欺骗传感器输入引起的障碍物外观不一致现象。
• 缓解算法 Remit 在持续攻击下仍保持了机器人原始工作效能的 95.9%，仅造成 4.1% 的损失。
• 所提出的检测与缓解框架在真实世界自主服务机器人的有限计算与电池资源下高效运行。
• 将 RoboFuzz、Shade 和 Remit 集成到实体清洁机器人原型中，验证了其在真实世界测试中的实际可行性与高度鲁棒性。
• 该方法通过聚焦上下文感知、状态依赖的传感器输入变异，优于传统模糊测试工具，显著提升了可利用性与现实感。