[論文レビュー] Securing Autonomous Service Robots through Fuzzing, Detection, and Mitigation

Chundong Wang, Yee Ching Tok+3 more|arXiv (Cornell University)|Mar 12, 2020

Smart Grid Security and Resilience参考文献 41被引用数 4

ひとこと要約

本論文では、自律型サービスロボットの制御プログラムにおける脆弱性を露わにするために、合理的ではあるが悪意あるセンサー値を注入する、指向性のあるファジングフレームワーク「RoboFuzz」を提案する。さらに、歴史的障害物記録を用いて偽装されたセンサー情報を検出する検出アルゴリズム「Shade」と、ロボットの機能を維持するための緩和アルゴリズム「Remit」を導入しており、作業効率の低下はわずか4.1%に抑えられ、実験では93.3%の攻撃成功率を達成した。

ABSTRACT

Autonomous service robots share social spaces with humans, usually working together for domestic or professional tasks. Cyber security breaches in such robots undermine the trust between humans and robots. In this paper, we investigate how to apprehend and inflict security threats at the design and implementation stage of a movable autonomous service robot. To this end, we leverage the idea of directed fuzzing and design RoboFuzz that systematically tests an autonomous service robot in line with the robot's states and the surrounding environment. The methodology of RoboFuzz is to study critical environmental parameters affecting the robot's state transitions and subject the robot control program with rational but harmful sensor values so as to compromise the robot. Furthermore, we develop detection and mitigation algorithms to counteract the impact of RoboFuzz. The difficulties mainly lie in the trade-off among limited computation resources, timely detection and the retention of work efficiency in mitigation. In particular, we propose detection and mitigation methods that take advantage of historical records of obstacles to detect inconsistent obstacle appearances regarding untrustworthy sensor values and navigate the movable robot to continue moving so as to carry on a planned task. By doing so, we manage to maintain a low cost for detection and mitigation but also retain the robot's work efficacy. We have prototyped the bundle of RoboFuzz, detection and mitigation algorithms in a real-world movable robot. Experimental results confirm that RoboFuzz makes a success rate of up to 93.3% in imposing concrete threats to the robot while the overall loss of work efficacy is merely 4.1% at the mitigation mode.

研究の動機と目的

• 移動可能な自律型サービスロボットにおける深刻なセキュリティギャップを解消すること。これらのロボットは、計算リソースと移動性に制限があるため、センサーに基づくサイバー攻撃に対して脆弱である。
• 限られたリソース制約内で動作し、タスクの継続性を保つ実用的な、デバイス内での検出および緩和メカニズムを開発すること。
• 指向性ファジングを用いて、現実的ではあるが悪意あるセンサー入力をシミュレートすることで、ロボット制御プログラムの脆弱性を体系的かつ包括的に同定すること。
• 特に人間とロボットが共存する環境において、設計段階から実装段階までにセキュリティを強化することで、自律ロボットに対する信頼を高めること。
• クラウドベースの認証やリモート計算に依存せずに、リアルタイムでの攻撃検出と回復を可能にすること。

提案手法

• ロボットの現在の状態と環境的文脈に基づいて、制御プログラムの欠陥を引き起こす悪意あるセンサー値を生成する指向性ファジングフレームワーク「RoboFuzz」の設計および実装。
• 最新鋭のファジングツール「Radamsa」を用いて、現実的ではあるが欺瞞的な環境計測値を模倣する、不安定で悪意あるセンサー入力を生成。
• リアルタイムでの障害物の出現状況を歴史的記録と比較することで、偽装されたセンサー情報の兆候を特定する検出アルゴリズム「Shade」の開発。
• 偽装されたセンサー値が検出された場合に、安全な経路を用いてタスク実行を継続できるようにする緩和アルゴリズム「Remit」の設計。
• 実世界の清掃ロボットプロトタイプに「Shade」と「Remit」を統合し、リソース制約のあるデバイス内での動作を検証。
• 外部クラウド支援を必要とせず、歴史的障害物データを活用することで、検出精度とナビゲーション効率を維持する。

実験結果

リサーチクエスチョン

• RQ1 移動可能な自律型サービスロボットの制御論理を損なうために、どのようにしてセンサーに基づくサイバー攻撃を体系的に生成できるか？
• RQ2 ローカルな歴史的データのみを用いて、どのようにして偽装されたセンサー値を効果的に検出できるか？
• RQ3 計算リソースとエネルギー制約が厳しい条件下でも、高いタスク効率を維持しながら、どのようにして緩和戦略を実装できるか？
• RQ4 指向性ファジングは、一般向けファジングツールに比べて、ロボット制御プログラムを損なう際にどれほど優れているか？
• RQ5 検出および緩和メカニズムは、実世界での展開において、最小限の性能低下でロボットの機能を維持できるか？

主な発見

• RoboFuzzは、重要な状態遷移の際、合理的ではあるが有害なセンサー値を注入することで、ロボットの制御プログラムに対する攻撃成功率が93.3%に達した。
• 検出アルゴリズム「Shade」は、ローカルな歴史的データのみを用いて、偽装されたセンサー入力によって生じる不一致な障害物の出現状況を効果的に同定した。
• 緩和アルゴリズム「Remit」は、攻撃が継続中でも、元の作業効率の95.9%を維持し、結果としてわずか4.1%の低下に抑えられた。
• 提案された検出および緩和フレームワークは、実世界の自律型サービスロボットが備える限られた計算リソースとバッテリー容量内で、効率的に動作した。
• 物理的清掃ロボットプロトタイプにRoboFuzz、Shade、Remitを統合した結果、実世界テストにおいて実用的かつ高い耐性を示した。
• 文脈に配慮した、状態依存のセンサー入力変異に焦点を当てた本手法は、従来のファジングツールを上回り、攻撃の実現可能性と現実性を高めた。