[論文レビュー] Robot hazards: from safety to security

Laura Alzola Kirschgens, Irati Zamalloa Ugarte+3 more|arXiv (Cornell University)|Jun 11, 2018

Wireless Body Area Networks参考文献 2被引用数 18

ひとこと要約

この論文は、ロボットがより接続され、自律的になるにつれ、脆弱性がデータ漏洩以上の物理的危険を引き起こすようになると警告し、セキュリティ最優先のアプローチを主張している。本論文は、歴史的なロボット事故を文書化し、それらが社会的・企業的影響を及ぼしたことを分析し、将来的なロボティクス時代における被害・信頼の損失・システムリスクを防ぐために、ロボット開発の初期段階からセキュリティを統合する緊急の必要性を訴えている。

ABSTRACT

Robotics landscape is experiencing big changes. Robots are spreading and will soon be everywhere. Systems traditionally employed in industry are being replaced by collaborative robots, while more and more professional and consumer robots are introduced in people's daily activities. Robots are increasingly intertwined with other facets of IT and envisioned to get much more autonomy, interacting physically with humans. We claim that, following Personal Computers (PCs) and smartphones, robots are the next technological revolution and yet, robot security is being ignored by manufacturers. The present paper aims to alert about the need of dealing not only with safety but with robot security from the very beginning of the forthcoming technological era. We provide herein a document that reviews robot hazards and analyzes the consequences of not facing these issues. We advocate strongly for a security-first approach as a must to be implemented now.

研究の動機と目的

• 接続性が高く、自律的である現代のロボットが工業的・プロフェッショナル・消費者の文脈において引き起こすリスクの増大を浮き彫りにすること。
• PC やスマートフォンの技術的革命の教訓にもかかわらず、ロボットセキュリティが軽視されていることの実証。
• 物理的被害・プライバシー侵害・企業イメージ損なわれといった、実世界でのロボット不具合の結果を分析すること。
• ロボティクス開発における安全のみに焦点を当てる思考から、セキュリティ最優先の設計哲学への根本的転換を提唱すること。
• 製造業者・規制当局・ユーザーが、自律ロボットの広範な展開の前に対応を図るよう促すこと。

提案手法

• 1970年代から現在に至るまで、工業的・プロフェッショナル・消費者分野における歴史的ロボット事故の体系的文書化。
• 死亡事故・不具合・セキュリティ侵害を含む事例研究の分析により、繰り返し現れる脆弱性を同定すること。
• プライバシー・企業イメージ・法的責任・公的信頼への影響を検討すること。
• PC やスマートフォンなどの過去の技術的革命と比較し、セキュリティの軽視とその結果の類似点を明らかにすること。
• 1979年のロボット死亡事故やフォルクスワーゲンの遅れによる公表といった、実例を用いて透明性とセキュリティ計画の欠如によるシステム的失敗を説明すること。
• 発見を統合し、予防的措置を重視するロボット開発におけるセキュリティ統合の呼びかけを提示すること。

実験結果

リサーチクエスチョン

• RQ1 現代の接続性・自律性を持つロボットに関連する主なセキュリティおよび安全上の懸念事項は何か？
• RQ2 伝統的なITシステムとは異なり、ロボットのセキュリティ不具合が引き起こす物理的被害の影響は、どのように異なるのか？特に物理的被害の観点から。
• RQ3 注目度の高いロボットの不具合やセキュリティ侵害が、社会的・法的・企業イメージに与える影響は何か？
• RQ4 コラボレーティブロボットや消費者向けロボットの文脈において、セキュリティ最優先のアプローチがなぜ今後不可欠なのか？
• RQ5 過去の技術的革命（例：PC やスマートフォン）から得られる教訓は、今日の責任あるロボティクス開発にどのように活かせるか？

主な発見

• 製造業者は、脆弱性の悪用による物理的被害の深刻なリスクがあるにもかかわらず、現在のところロボットセキュリティを軽視している。
• フォード工場での1979年のロボット死亡事故や2015年のフォルクスワーゲン労働者死亡事故といった歴史的事故は、公的発表の遅れや不十分なセキュリティ対策といったシステム的欠陥を露呈している。
• PC やスマートフォンの不具合とは異なり、ロボットのセキュリティ不具合は、単なるデータ損失やプライバシー侵害を超えて、直接的な身体的被害や死亡を引き起こす可能性がある。
• ロボット関連の事故は企業イメージを著しく損なう。メディア報道が急速に広がり、公的信頼と投資家信頼に悪影響を及える。
• 透明性の欠如と遅れた報告（例：フォルクスワーゲンの事故報告が10日遅れ）は、一般市民および規制当局の信頼を損なう。
• 安全とセキュリティが現代ロボティクスにおいて密接に結びついているため、将来的な被害を防ぐためにも、セキュリティ最優先のアプローチが不可欠である。