[논문 리뷰] Augmented Artificial Intelligence: a Conceptual Framework

Alexander N. Gorban, Bogdan Grechuk외 1명|arXiv (Cornell University)|2018. 02. 06.

Neural Networks and Reservoir Computing참고 문헌 24인용 수 12

한 줄 요약

이 논문은 고차원 확률적 분리 정리의 활용을 통해 기존 AI 모델의 오류를 빠르고 비파괴적으로 수정할 수 있는 공동체 기반 AI 시스템을 활용한 증강된 인공지능(AI)의 개념적 프레임워크를 제안한다. 고차원에서의 확률적 분리 정리에 기반해 선형 분류기(예: 피셔의 할선)는 복잡한 비i.i.d. 데이터 분포에서도 높은 확률로 오류를 효과적으로 고립하고 수정할 수 있으며, 이는 확장 가능하고 가역적이며 인간 전문가의 개입 없이도 시스템 개선을 가능하게 한다.

ABSTRACT

All artificial Intelligence (AI) systems make errors. These errors are unexpected, and differ often from the typical human mistakes ("non-human" errors). The AI errors should be corrected without damage of existing skills and, hopefully, avoiding direct human expertise. This paper presents an initial summary report of project taking new and systematic approach to improving the intellectual effectiveness of the individual AI by communities of AIs. We combine some ideas of learning in heterogeneous multiagent systems with new and original mathematical approaches for non-iterative corrections of errors of legacy AI systems. The mathematical foundations of AI non-destructive correction are presented and a series of new stochastic separation theorems is proven. These theorems provide a new instrument for the development, analysis, and assessment of machine learning methods and algorithms in high dimension. They demonstrate that in high dimensions and even for exponentially large samples, linear classifiers in their classical Fisher's form are powerful enough to separate errors from correct responses with high probability and to provide efficient solution to the non-destructive corrector problem. In particular, we prove some hypotheses formulated in our paper `Stochastic Separation Theorems' (Neural Networks, 94, 255--259, 2017), and answer one general problem published by Donoho and Tanner in 2009.

연구 동기 및 목표

• 재훈련 없이도 기존에 배포된 AI 시스템의 오류를 수정하고 기존 능력을 손상시키지 않고도 이를 해결하는 데 있어 핵심적인 과제를 해결하기 위해.
• 빅데이터를 처리하는 대규모 AI 시스템에서 확장 가능하고 반복적이지 않으며 가역적인 오류 수정 방법을 개발하기 위해.
• AI 유지보수에서 인간의 참여를 최소화하기 위해 공동체 기반의 AI들이 자율적으로 오류를 탐지하고 수정하며 지식을 공유할 수 있도록 하기 위해.
• 측도 농도와 확률적 분리 정리에 기반한 고차원 데이터에서의 오류 수정에 대한 이론적 기반을 마련하기 위해.
• 선형 분류기가 고차원에서 오류 응답과 정확한 응답을 분리하는 데 있어 실용성과 안정성

제안 방법

• 고차원 공간에서의 랜덤 포인트가 고차원에서 나머지 데이터셋과 선형으로 분리 가능할 확률이 매우 높다는 것을 보여주는 확률적 분리 정리를 활용한다.
• 피셔의 선형 할선을 고차원에서 적용하여 기존 AI 시스템의 오류 예측을 비파괴적으로 식별하고 수정한다.
• 독립된 선형 할선의 계층적 아키텍처를 도입하여 오류 수정의 효율성과 내성적 안정성을 향상시킨다.
• 군집 분석과 확률적 분리를 융합한다: 먼저 데이터를 군집으로 분할한 후, 각 군집 내에서 선형 분리를 적용하여 성능을 향상시킨다.
• 문제 라우팅, 지식 공유, 감사 시스템을 통해 상호 협력하는 AI 공동체 기반의 AI 프레임워크를 설계한다.
• 실제 산업 협업 환경에서 시뮬레이션 데이터와 실시간 영상 스트림 데이터를 활용해 접근법의 실용성을 검증한다.

실험 결과

연구 질문

• RQ1 고차원 공간에서의 선형 분류기는 기존 AI 시스템의 오류 예측과 정확한 예측을 신뢰성 있게 분리할 수 있는가?
• RQ2 확률적 분리 정리는 인간의 간섭 없이도 반복적이지 않고 비파괴적인 AI 오류 수정을 어느 정도 가능하게 하는가?
• RQ3 차원의 축복 덕분에 저차원 접근법 대비 더 단순하고 효율적인 수정 메커니즘이 어떻게 가능해지는가?
• RQ4 데이터의 군집 구조는 오류 수정을 위한 확률적 분리의 효과성에 어떤 영향을 미치는가?
• RQ5 제안된 프레임워크는 실세계 AI 워크로드에서 흔히 볼 수 있는 일반적인 비i.i.d. 데이터 분포를 다룰 수 있는가?

주요 결과

• 확률적 분리 정리는 고차원에서 심지어 지수적으로 큰 랜덤 데이터셋이라도 높은 확률로 선형으로 분리 가능함을 보여주며, 이는 효율적인 오류 수정을 가능하게 한다.
• 단일 오류 포인트를 정확한 응답과 분리하는 데 실패할 확률은 표본 크기, 차원, 신뢰도 파라미터에 관한 식으로 제한되며, 차원이 증가함에 따라 급격히 감소한다.
• 피셔의 선형 할선은 고차원 데이터에서 오류 수정에 매우 효과적이며, 실무에서는 더 복잡한 비선형 방법보다 뛰어난 성능을 보인다.
• 독립된 선형 할선의 계층적 조합은 단일 분류기 대비 향상된 성능과 내성적 안정성을 보여준다.
• 군집 분석과 확률적 분리를 융합하면 데이터에 뚜렷한 군집 구조가 존재할 경우 보다 높은 정확도의 수정이 가능해진다.
• 실제 산업 환경에서의 영상 스트림 데이터를 대상으로 오류 수정을 성공적으로 수행하여 실용성과 확장 가능성의 타당성을 확인했다.