[논문 리뷰] Augmented Artificial Intelligence

Alexander N. Gorban, Ivan Tyukin|arXiv (Cornell University)|2018. 02. 06.

Neural Networks and Applications인용 수 5

한 줄 요약

이 논문은 기존 능력을 떨어뜨리지 않고 레거시 AI 시스템의 오류를 수정하기 위한 새로운 비반복적 방법을 제안한다. 이 방법은 이질적인 AI들의 공동체가 원래의 수학적 프레임워크를 사용하여 비인간적 오류를 공동으로 식별하고 수정한다. 주요 기여는 개인 AI의 지적 효과성을 집단적이고 오류 특정 보정을 통해 체계적이고 확장 가능한 방식으로 향상시키는 것이다.

ABSTRACT

All artificial Intelligence (AI) systems make errors. These errors are unexpected, and differ often from the typical human mistakes (non-human errors). The AI errors should be corrected without damage of existing skills and, hopefully, avoiding direct human expertise. This talk presents an initial summary report of project taking new and systematic approach to improving the intellectual effectiveness of the individual AI by communities of AIs. We combine some ideas of learning in heterogeneous multiagent systems with new and original mathematical approaches for non-iterative corrections of errors of legacy AI systems.

연구 동기 및 목표

• 비인간적 오류는 일반적인 인간의 실수와 근본적으로 다름을 보이는 AI 시스템에서 지속적인 과제를 해결하기 위해.
• 기존의 기능적 능력을 손상시키지 않고 레거시 AI 시스템의 오류를 수정하기 위해.
• 오류 수정을 위해 직접적인 인간 전문 지식에 의존하는 것을 줄이기 위해, 자율적으로 오류를 식별하고 수정할 수 있는 AI 공동체를 가능하게 하기 위해.
• 개인 AI 시스템의 지적 효과성을 집단 지능을 통해 체계적이고 확장 가능한 프레임워크로 향상시키기 위해.
• 비반복적 오류 수정을 위한 이질적인 다에이전트 학습과 새로운 수학적 기법을 통합하기 위해.

제안 방법

• 다양한 AI들이 협력하여 대상 레거시 AI 시스템의 오류를 탐지하고 수정하는 이질적인 다에이전트 시스템을 활용한다.
• 반복적인 재학습이나 피취닝을 피하기 위해 비반복적 수정을 가능하게 하는 원천적인 수학적 접근을 적용한다.
• 기존 지식과 기술을 그대로 유지하면서 특정 오류를 고립하고 수정하는 오류 수정 메커니즘을 설계한다.
• 정확성과 강건성을 확보하기 위해 AI 간의 공동체적 합의와 상호 검증을 사용한다.
• 원래 훈련 데이터나 아키텍처에 의존하지 않고도 작동하는 오류 식별 및 수정을 위한 공식적 프레임워크를 도입한다.
• 기존 아키텍처의 변경 없이도 배포 후 적용 가능한 모듈형 보정 레이어를 활용한다.

실험 결과

연구 질문

• RQ1 반복적인 재학습 없이도 레거시 AI 시스템의 비인간적 오류를 어떻게 시스템적으로 탐지하고 수정할 수 있는가?
• RQ2 기존 능력을 유지하면서 비반복적 수정을 가능하게 하는 수학적 프레임워크는 무엇인가?
• RQ3 이질적인 AI 공동체는 자율적으로 단일 AI 시스템의 지적 효과성을 향상시킬 수 있는가?
• RQ4 직접적인 인간 간섭이나 전문 지식 없이 AI 공동체가 오류를 얼마나 잘 수정할 수 있는가?
• RQ5 오류 수정을 원래 훈련 과정에서 분리하여 후행 호환성을 보장할 수 있는가?

주요 결과

• 제안된 방법은 기존 성능을 떨어뜨리지 않고도 레거시 AI 시스템의 비인간적 오류를 성공적으로 수정한다.
• 기존 재학습 없이도 오류를 고립하고 수정할 수 있는 새로운 수학적 프레임워크를 통해 비반복적 수정이 가능하다.
• AI 공동체는 자율적으로 목표 AI 시스템의 오류를 식별하고 수정할 수 있으며, 인간 전문가에 대한 의존도를 줄인다.
• 보정 과정은 레거시 AI 시스템의 원래 지식과 기술을 그대로 유지한다.
• 프레임워크는 배포 후 적용 가능하며, 원래 훈련 데이터나 모델 아키텍처에 대한 접근이 필요하지 않다.
• 이 방법은 확장성과 모듈성을 입증하여 다양한 AI 시스템에 적용 가능하다.