[論文レビュー] Engineering Reliable Deep Learning Systems

P. Santhanam, Eitan Farchi+1 more|arXiv (Cornell University)|Oct 14, 2019

Adversarial Robustness in Machine Learning参考文献 21被引用数 8

ひとこと要約

この論文は、ミッションクリティカルな応用分野における信頼性、信頼性、保守性の課題に対処するため、『AI工学』を学問分野として形式化することを提唱している。深層学習システムにおける信頼性、信頼性、保守性の課題に対処するため、ミッションクリティカルな応用分野におけるAIの構造的開発および認証手法を提案し、再現可能性と安全性を確保するための体系的なアプローチを強調している。

ABSTRACT

Recent progress in artificial intelligence (AI) using deep learning techniques has triggered its wide-scale use across a broad range of applications. These systems can already perform tasks such as natural language processing of voice and text, visual recognition, question-answering, recommendations and decision support. However, at the current level of maturity, the use of an AI component in mission-critical or safety-critical applications can have unexpected consequences. Consequently, serious concerns about reliability, repeatability, trust, and maintainability of AI applications remain. As AI becomes pervasive despite its shortcomings, more systematic ways of approaching AI software development and certification are needed. These fundamental aspects establish the need for a discipline on "AI Engineering". This paper presents the current perspective of relevant AI engineering concepts and some key challenges that need to be overcome to make significant progress in this important area.

研究の動機と目的

• 安全・ミッションクリティカルな環境に展開された深層学習システムにおける信頼性、再現性、信頼性に関する懸念が高まっていることを対処する。
• 認証および長期的保守性を妨げる、現在のAIソフトウェア開発手法におけるシステム的欠陥を特定する。
• 深層学習システムの開発、テスト、検証を標準化するための『AI工学』という形式的学問分野を確立する。
• AIアプリケーションにおける一貫したパフォーマンスと責任の所在を保証するための体系的アプローチの必要性を強調する。
• 認証および規制適合を支援するため、工学的原則をAI開発に統合するフレームワークを提供する。

提案手法

• 伝統的なソフトウェア工学の実践を模倣した、AIシステムの構造的工学的分野を提唱する。
• 深層学習モデルの開発、テスト、認証を指導する形式的フレームワークとしての『AI工学』の概念を導入する。
• AIシステム開発におけるトレーサビリティ、再現性、監査可能性の必要性を強調する。
• 要件定義、検証、継続的モニタリングを含む、標準化されたライフサイクル管理を提唱する。
• 信頼性を向上させるために、形式的検証およびテスト戦略をAI開発パイプラインに統合する。
• 医療、輸送、公共サービスなどのハイリスク応用分野に特化したガイドラインおよび認証基準の必要性を訴える。

実験結果

リサーチクエスチョン

• RQ1 ミッションクリティカルな応用分野に展開された深層学習システムにおける信頼性と信頼性の主な課題は何か？
• RQ2 深層学習システムの固有の特性に合わせて、体系的な工学的実践をどのように適応できるか？
• RQ3 AIシステムの認証および規制承認を可能にするために、どのような構造的および手順的変更が必要か？
• RQ4 現在のAI開発実践は、再現性と保守性を確保する点で、どのように不足しているか？
• RQ5 AI工学の原則をどのように制度化すれば、長期的なシステムの信頼性と責任の所在を支えることができるか？

主な発見

• 制御された環境下では強力なパフォーマンスを示すが、現在の深層学習システムはミッションクリティカルな応用分野に適した信頼性と再現性を欠いている。
• 形式的工学的実践の欠如により、一貫性のない動作、低い監査可能性、認証の困難さが生じている。
• 開発、テスト、検証プロセスを標準化するための専用の学問分野である『AI工学』の必要性が極めて高い。
• 要件、トレーサビリティ、検証に対する体系的アプローチは、AIシステムの信頼性と安全性を向上させるために不可欠である。
• AIシステムの形式的認証パスウェイは依然として未発達であり、規制対象分野への導入を妨げる障壁となっている。
• 本論文は、深層学習システムの独自の課題に応えるために、ソフトウェア工学の必要不可欠な進化としてのAI工学を位置づけている。