[論文レビュー] On Interpretability of Artificial Neural Networks: A Survey

Fenglei Fan, Jinjun Xiong+2 more|arXiv (Cornell University)|Jan 8, 2020

Explainable Artificial Intelligence (XAI)参考文献 202被引用数 46

ひとこと要約

本調査はニューラルネットワークの解釈可能性の包括的な分類法を提供し、最近の研究を概観し、医療応用について議論し、将来の方向性を概説する（例：fuzzy logic および brain science）。

ABSTRACT

Deep learning as represented by the artificial deep neural networks (DNNs) has achieved great success in many important areas that deal with text, images, videos, graphs, and so on. However, the black-box nature of DNNs has become one of the primary obstacles for their wide acceptance in mission-critical applications such as medical diagnosis and therapy. Due to the huge potential of deep learning, interpreting neural networks has recently attracted much research attention. In this paper, based on our comprehensive taxonomy, we systematically review recent studies in understanding the mechanism of neural networks, describe applications of interpretability especially in medicine, and discuss future directions of interpretability research, such as in relation to fuzzy logic and brain science.

研究の動機と目的

• 包括的な interpretable neural networks の分類法と方法を提示する。
• 最近の研究を体系的にレビューし、ニューラルネットワークの機構を理解する。
• 解釈可能性の医療への適用を説明・要約する。
• 将来の研究方向性と学際的なつながり（例：fuzzy logic、brain science）を論じる。

提案手法

• ニューラルネットワークの解釈可能性の包括的な分類法を構築する。
• ニューラルネットワークをどのように理解できるかを扱う最近の研究を体系的にレビューする。
• 医療における解釈可能性技術の適用を説明する。
• fuzzy logic および brain science などの学際的な結びつきや将来の方向性を検討する。

実験結果

リサーチクエスチョン

• RQ1 ニューラルネットワークで解釈または説明できる仕組みまたは表現は何か。
• RQ2 解釈可能性の手法は医療文脈でどのように適用され、どんな利点が観察されるか。
• RQ3 将来の解釈可能性研究を導く主なギャップ、課題、機会は何か。
• RQ4 解釈可能性を進展させる潜在的な学際的つながり（例：fuzzy logic、brain science）は何か。

主な発見

• 人工ニューラルネットワークにおける解釈可能性の包括的な分類法を提供する。
• ニューラルネットワークの機構を理解するための最近の研究を要約・統合する。
• 解釈可能性の医療への適用と含意を論じる。
• fuzzy logic および brain science への結びつきを含む将来の方向性を概説する。