[論文レビュー] An Interactive Explanatory AI System for Industrial Quality Control

Dennis Müller, Michael März+2 more|arXiv (Cornell University)|Mar 17, 2022

Semantic Web and Ontologies被引用数 5

ひとこと要約

本論文は、畳み込みニューラルネットワーク（CNN）を用いた欠陥検出と、説明可能で言語化された推論を提供する誘導論理プログラミング（ILP）を組み合わせた、インダストリー品質管理のためのインタラクティブで人間がループに参加するAIシステムを提示する。このシステムは、ユーザーのフィードバックを統合して分類と根拠を段階的に改善し、神経的・記号的統合を通じて透明性、専門家による制御、および意思決定の正確性を確保する。

ABSTRACT

Machine learning based image classification algorithms, such as deep neural network approaches, will be increasingly employed in critical settings such as quality control in industry, where transparency and comprehensibility of decisions are crucial. Therefore, we aim to extend the defect detection task towards an interactive human-in-the-loop approach that allows us to integrate rich background knowledge and the inference of complex relationships going beyond traditional purely data-driven approaches. We propose an approach for an interactive support system for classifications in an industrial quality control setting that combines the advantages of both (explainable) knowledge-driven and data-driven machine learning methods, in particular inductive logic programming and convolutional neural networks, with human expertise and control. The resulting system can assist domain experts with decisions, provide transparent explanations for results, and integrate feedback from users; thus reducing workload for humans while both respecting their expertise and without removing their agency or accountability.

研究の動機と目的

• インダストリー品質管理で使用される完全にデータ駆動型のディープラーニングモデルにおける透明性と説明可能性の欠如に対処すること。
• ドメインスペシャリストが欠陥部品を分類するのを補助するのではなく、代替するのではなく支援するAIシステムに、人間の専門知識とフィードバックを統合すること。
• ディープラーニングのパターン認識能力と、知識ベースのILPの解釈可能性を組み合わせ、信頼性があり説明可能な欠陥分類を実現すること。
• ユーザーのフィードバックに基づいて知識を動的に更新するシステムを開発し、責任の所在を維持するとともに、人間の作業負荷を低減すること。
• 神経的・記号的統合のプロトタイプを、実世界のインダストリー欠陥検出シナリオで示すこと。

提案手法

• 7,348枚の鋳鉄部品の画像と、86枚の手動でアノテートされた欠陥マスクを用いて、CNNをトレーニングし、欠陥の検出と局所化を行う。
• 欠陥は連結成分（スーパーセル）に分割され、幾何的および空間的特性（例：サイズ、位置）が抽出され、記号的表現として扱われる。
• 各画像がPrologのホーン節の集合に変換され、ILPシステム（Aleph）への入力として、欠陥の特性を述語として表現する。
• 再ラベル付けされたデータ（欠陥ありまたは正常）を用いてILPシステムがトレーニングされ、論理的規則として表される分類仮説が生成される。
• システムは、分類と根拠について人間が読める形の説明を生成し、画像とマスクとともにユーザーに提示する。
• ユーザーは分類および個々の根拠についてフィードバックを提供する——受容、拒否、または修正——これにより、拡張データを用いた再トレーニングによってILPモデルが段階的に更新される。

実験結果

リサーチクエスチョン

• RQ1 ディープラーニングと誘導論理プログラミングを組み合わせたハイブリッドシステムは、インダストリー欠陥検出における透明性と説明可能性を向上させることができるか？
• RQ2 人間がループに参加するフィードバックを、分類と根拠の論理を両方 refine するために効果的に統合できるか？
• RQ3 ILPに基づく言語化された説明は、ドメインスペシャリストが品質管理において正確で責任ある意思決定を下すのをどの程度支援できるか？
• RQ4 誤った根拠（例：『正しい理由でないが正しい結論』）を是正するために、ダミー例を用いることで、システムが誤った論理的規則の学習を防げるか？
• RQ5 視覚的および記号的推論の統合は、インダストリーAIアプリケーションにおける意思決定の質とユーザーの信頼をどの程度向上させるか？

主な発見

• 本システムは、CNNを用いた欠陥検出と、ILPが生成する言語化された説明を効果的に統合し、インダストリー部品の透明で解釈可能な分類を可能にした。
• 分類および個々の根拠に関するユーザーのフィードバックが効果的に捉えられ、ILPモデルの更新に活用され、段階的学習と改善が可能になった。
• ダミー例の使用により、誤った根拠（例：『正しい理由でないが正しい結論』）を是正でき、誤った論理的規則の学習を防ぐことができた。
• Webベースのインターフェースを通じて、高水準の使いやすさとインタラクティビティを維持し、画像、マスク、分類、説明を表示し、フィードバック操作を可能にした。
• 本アプローチにより、ドメインスペシャリストが意思決定の主権と責任を保ちつつ、AI支援による説明可能な意思決定支援によって認知的負荷を低減できるようになった。
• 公開されたGitLabリポジトリを通じて利用可能なデモンストレータは、実際のインダストリー品質管理環境における神経的・記号的統合の実現可能性を確認した。