[論文レビュー] Augmented Artificial Intelligence

Alexander N. Gorban, Ivan Tyukin|arXiv (Cornell University)|Feb 6, 2018

Neural Networks and Applications被引用数 5

ひとこと要約

本論文は、従来のAIシステムにおける非人間的エラーを、既存の能力を損なわずに、非反復的手法で是正する、画期的な新しい手法を提案する。この手法では、多様なAIのコミュニティが協働して、オリジナルの数学的フレームワークを用いて非人間的エラーを特定・是正する。主な貢献は、集団的でエラー特化型の是正を通じて、個々のAIの知的効果性を体系的かつスケーラブルに向上させるアプローチである。

ABSTRACT

All artificial Intelligence (AI) systems make errors. These errors are unexpected, and differ often from the typical human mistakes (non-human errors). The AI errors should be corrected without damage of existing skills and, hopefully, avoiding direct human expertise. This talk presents an initial summary report of project taking new and systematic approach to improving the intellectual effectiveness of the individual AI by communities of AIs. We combine some ideas of learning in heterogeneous multiagent systems with new and original mathematical approaches for non-iterative corrections of errors of legacy AI systems.

研究の動機と目的

• 人間の誤りとは根本的に異なる非人間的エラーに起因する、AIシステムにおける継続的課題に対処すること。
• 既存の機能的能力を損なうことなく、レガシーアイ・システムのエラーを是正すること。
• 直接的人間の専門知識に依存するのを減らし、自律的なAIコミュニティがエラーを特定・是正できるようにすること。
• 集団知を活用して個々のAIシステムの知的効果性を体系的かつスケーラブルに向上させるフレームワークを構築すること。
• 異種マルチエージェント学習と非反復的誤り是正に適したオリジナルの数学的手法を統合すること。

提案手法

• 多様なAIが協働して、ターゲットとなるレガシーアイ・システム内のエラーを検出・是正する、異種マルチエージェントシステムを活用する。
• 反復的な再トレーニングやファインチューニングを回避するため、非反復的是正を可能にするオリジナルの数学的アプローチを適用する。
• 既存の知識やスキルを保持しつつ、特定のエラーを隔離・是正するように、是正メカニズムを設計する。
• AI間でのコミュニティのコンSENSUSと相互検証を用いて、是正の正確性と耐性を確保する。
• 元のトレーニングデータやアーキテクチャに依存せずに動作する、誤り特定・是正の形式的フレームワークを導入する。
• アーキテクチャの変更なしに、デプロイ後にも適用可能なモジュラー是正レイヤーを採用する。

実験結果

リサーチクエスチョン

• RQ1 反復的再トレーニングを伴わず、レガシーアイ・システム内の非人間的エラーを体系的に検出・是正する方法は何か？
• RQ2 既存の能力を保持しつつ、非反復的是正を可能にする数学的フレームワークは何か？
• RQ3 異種AIのコミュニティは、単一のAIシステムの知的効果性を自律的に向上させることができるか？
• RQ4 直接的人間の介入や専門知識なしに、AIコミュニティがどれほどエラーを是正できるか？
• RQ5 元のトレーニングプロセスからエラー是正を分離することで、後方互換性を保証する方法は何か？

主な発見

• 提案手法は、事前性能を損なわせることなく、レガシーアイ・システム内の非人間的エラーを是正することに成功した。
• エラーを再トレーニングなしに隔離・是正できる、オリジナルの数学的フレームワークにより、非反復的是正が実現可能である。
• AIコミュニティは自律的にターゲットAIのエラーを特定・是正でき、人間エキスパートへの依存を低減する。
• 是正プロセスは、レガシーアイ・システムの元の知識とスキルを保持したままである。
• フレームワークはデプロイ後にも適用可能であり、元のトレーニングデータやモデルアーキテクチャへのアクセスを必要としない。
• このアプローチはスケーラビリティとモularityを示しており、多様なAIシステムへの応用が可能である。