[論文レビュー] Open Problems in Engineering and Quality Assurance of Safety Critical Machine Learning Systems

Hiroshi Kuwajima, Hirotoshi Yasuoka+1 more|arXiv (Cornell University)|Dec 7, 2018

Safety Systems Engineering in Autonomy参考文献 5被引用数 5

ひとこと要約

この論文は、自動運転を主な例として、安全で重要な機械学習システムの工学的・品質保証の分野における未解決問題を特定・分類・整理する。自動車工学、ソフトウェア工学、統計学、機械学習の知見を統合した学際的フレームワークを提案し、MLベースの安全システムの検証・試験・信頼性に関する包括的なギャップを埋めることを目的とし、将来的な保証フレームワークの基盤的基準を確立することを狙う。

ABSTRACT

Fatal accidents are a major issue hindering the wide acceptance of safety-critical systems using machine-learning and deep-learning models, such as automated-driving vehicles. Quality assurance frameworks are required for such machine learning systems, but there are no widely accepted and established quality-assurance concepts and techniques. At the same time, open problems and the relevant technical fields are not organized. To establish standard quality assurance frameworks, it is necessary to visualize and organize these open problems in an interdisciplinary way, so that the experts from many different technical fields may discuss these problems in depth and develop solutions. In the present study, we identify, classify, and explore the open problems in quality assurance of safety-critical machine-learning systems, and their relevant corresponding industry and technological trends, using automated-driving vehicles as an example. Our results show that addressing these open problems requires incorporating knowledge from several different technological and industrial fields, including the automobile industry, statistics, software engineering, and machine learning.

研究の動機と目的

• 安全で重要な機械学習システムの工学的・品質保証分野における未解決問題を特定・体系化すること。
• 特に自律走行車のような高リスク分野において、MLベースの安全システムのための確立された品質保証の概念・技術が不足しているという点を是正すること。
• 自動車工学、ソフトウェア工学、機械学習、統計学の技術的分野の間のギャップを、未解決問題を統合的フレームワークに整理することで埋めること。
• MLシステムの信頼性と安全性に関する課題を可視化・分類することで、より深い学際的協働を可能にすること。

提案手法

• 著者は、自動運転を事例として、安全で重要な機械学習システムの体系的分析を実施する。
• モデルの頑健性、試験、検証、システムレベルの安全性など、複数の分野にわたる未解決問題を特定・分類する。
• ソフトウェア工学、統計学、機械学習、自動車産業の実務からの知見を統合したフレームワークを構築する。
• システムライフサイクル、故障モード、保証要件などの次元に沿って、問題を分類する。
• 技術的課題を関連分野とトレンドにマッピングすることで、学際的協働を強調する。
• 構造的な分類体系を用いて未解決問題を可視化し、研究開発の的を射ねる。

実験結果

リサーチクエスチョン

• RQ1 安全で重要な機械学習システムの工学的・品質保証分野における主な未解決問題は何か？
• RQ2 自動車工学、ソフトウェア工学、統計学、機械学習からの学際的知見をどのように統合して、これらの問題に対処できるか？
• RQ3 MLベースの安全システムの現在の検証・試験手法における主なギャップは何か？
• RQ4 安全で重要なMLシステムのための統合的品質保証フレームワークをどのように開発できるか？
• RQ5 これらの未解決問題を解決するために、最も関連性の高い技術的・産業的トレンドは何か？

主な発見

• この論文は、特に自律走行車のような分野において、安全で重要な機械学習システムに対する標準化された品質保証の概念・技術が著しく不足していることを特定した。
• 未解決問題は、モデルの頑健性、故障検出、テストカバレッジ、システムレベルの検証など、複数の分野にわたる。
• これらの課題に対処するには、ソフトウェア工学、統計学、機械学習、自動車システム工学の知見を統合する必要がある。
• 確立されたフレームワークの不在が、安全で重要な応用分野におけるMLシステムの信頼性ある展開を妨げている。
• 提示された分類体系により、分野横断的な明確なコミュニケーションと協働が可能となり、包括的な保証課題の解決が促進される。
• 本研究は、単一の分野だけではこれらの問題を解決できないこと、したがって、分野横断的で標準化された研究と取り組みが不可欠であることを強調している。