[論文レビュー] Knowledge-based Transfer Learning Explanation

Jiaoyan Chen, Freddy Lécué+3 more|arXiv (Cornell University)|Jul 22, 2018

Explainable Artificial Intelligence (XAI)参考文献 2被引用数 31

ひとこと要約

本稿では、OWL 2 EL++ OntologyとDBpediaなどの外部知識ベースを用いて、一般要因、特定の語り手、コア文脈の3種類の説明的根拠を推論することで、人間中心の転移学習の説明を実現するオントロジー基盤フレームワークを提案する。畳み込みニューラルネットワーク（CNN）の特徴表現を用いて、フライト遅延予測において肯定的・否定的転移の信頼性の高い、解釈可能な説明を可能にし、非専門家がなぜ特定の転移が成功または失敗するかを理解できるようにする。

ABSTRACT

Machine learning explanation can significantly boost machine learning's application in decision making, but the usability of current methods is limited in human-centric explanation, especially for transfer learning, an important machine learning branch that aims at utilizing knowledge from one learning domain (i.e., a pair of dataset and prediction task) to enhance prediction model training in another learning domain. In this paper, we propose an ontology-based approach for human-centric explanation of transfer learning. Three kinds of knowledge-based explanatory evidence, with different granularities, including general factors, particular narrators and core contexts are first proposed and then inferred with both local ontologies and external knowledge bases. The evaluation with US flight data and DBpedia has presented their confidence and availability in explaining the transferability of feature representation in flight departure delay forecasting.

研究の動機と目的

• 非機械学習専門家を対象とした人間中心の説明の欠如に取り組むこと。
• 背景知識や一般的常識を含まない機械可読のインサイトに依存する、現在の機械学習説明手法の限界を克服すること。
• ローカルオントロジーと外部知識ベースを統合することで、豊富で理解しやすい転移学習の結果の説明を生成するフレームワークを開発すること。
• 機械学習の専門知識を持たないユーザーが、予測タスクにおける特定の知識転移がなぜ成功する（肯定的転移）か、あるいは失敗する（否定的転移）かを理解できるようにすること。
• ローカル知識と外部知識を両方サポートする、一般用途で利用可能で表現力に富んだ知識表現および推論システムを提供し、転移学習の説明に適すること。

提案手法

• 学習ドメイン（データセットおよび予測タスク）を、概念、役割、個体を表現する包括的なOWL 2 EL++オントロジーでモデル化すること。
• 効率的な個体マッチングおよび知識インポートアルゴリズムを用いて、ローカルオントロジーにDBpediaからの外部知識を補完すること。
• 相関推論アルゴリズムを適用し、一般要因、特定の語り手、コア文脈という3種類の説明的根拠を推論すること。
• TBoxにおける概念および役割の公理（例：GCIs、RIs）とABoxにおけるアサーションを用いて、ドメイン固有の知識および一般的常識を表現すること。
• 特徴転移可能性の測定やコア文脈（含意サブセット）の特定といった技術的課題を論理的推論によって克服すること。
• OWL 2 EL++の意味的表現力を利用し、ローカルおよび外部知識の両方の推論を支援することで、説明生成を可能にすること。

実験結果

リサーチクエスチョン

• RQ1 なぜある学習ドメインから別の学習ドメインに特徴表現を転移させると、フライト遅延予測において肯定的または否定的転移が生じるのか？
• RQ2 一般要因、特定の語り手、コア文脈を自動的に推論することで、人間が理解可能な形で転移結果を説明できるか？
• RQ3 DBpediaのような外部知識は、一般的常識や文脈的背景を含めた転移学習の説明をどのように豊かにするか？
• RQ4 ローカルオントロジーと外部知識ベースを効果的に統合することで、転移可能性に関する推論をどのように支援できるか？
• RQ5 提案されたフレームワークは、肯定的および否定的転移の両ケースにおいて、信頼性があり利用可能な説明的根拠をどの程度生成できるか？

主な発見

• 本フレームワークは、CNNで学習された特徴を用いた米国フライト出発遅延予測において、肯定的および否定的転移の両方について、信頼性があり利用可能な説明的根拠を効果的に生成した。
• 主要航空会社が運航するフライトからの特徴転移が、肯定的転移を支持する一般要因として同定され、モデルが意味のあるパターンを検出できる能力を示した。
• SFO発のフライトからの特徴転移が、否定的転移を説明するコア文脈として同定され、ドメイン固有の不適合性が示された。
• DBpediaとローカルオントロジーの併用により、一般的常識や背景知識を組み込んだ豊富で文脈に適した説明が推論可能になった。
• 本フレームワークは、異種の知識ソースに対する有効な推論を達成し、人間中心の転移学習説明の実現可能性を示した。
• 評価により、提案手法が非専門家ユーザーが理解可能な、意味的に根拠のある説明をサポートしていることが確認された。