[논문 리뷰] IBSEAD: - A Self-Evolving Self-Obsessed Learning Algorithm for Machine Learning

Jitesh Dundas, David Chik|arXiv (Cornell University)|2011. 06. 30.

Machine Learning and Data Classification참고 문헌 14인용 수 6

한 줄 요약

IBSEAD는 동적인 환경에서 상호작용하는 자율적 실체를 모델링하는 자기 진화적이고 자기 중심적인 학습 알고리즘을 제안하며, 알려진, 모르는, 그리고 보이지 않는 실체를 명시적으로 고려함으로써 상상력과 새로운 일탈과 같은 인간 유사 인지 과정의 개선된 시뮬레이션을 제공한다. 제3자 및 관측되지 않은 상호작용을 통합함으로써 의사결정 트리와 은닉 마르코프 모델과 같은 전통적 알고리즘보다 복잡하고 변화하는 시나리오에서 정확도를 향상시킨다.

ABSTRACT

We present IBSEAD or distributed autonomous entity systems based Interaction - a learning algorithm for the computer to self-evolve in a self-obsessed manner. This learning algorithm will present the computer to look at the internal and external environment in series of independent entities, which will interact with each other, with and/or without knowledge of the computer's brain. When a learning algorithm interacts, it does so by detecting and understanding the entities in the human algorithm. However, the problem with this approach is that the algorithm does not consider the interaction of the third party or unknown entities, which may be interacting with each other. These unknown entities in their interaction with the non-computer entities make an effect in the environment that influences the information and the behaviour of the computer brain. Such details and the ability to process the dynamic and unsettling nature of these interactions are absent in the current learning algorithm such as the decision tree learning algorithm. IBSEAD is able to evaluate and consider such algorithms and thus give us a better accuracy in simulation of the highly evolved nature of the human brain. Processes such as dreams, imagination and novelty, that exist in humans are not fully simulated by the existing learning algorithms. Also, Hidden Markov models (HMM) are useful in finding "hidden" entities, which may be known or unknown. However, this model fails to consider the case of unknown entities which maybe unclear or unknown. IBSEAD is better because it considers three types of entities- known, unknown and invisible. We present our case with a comparison of existing algorithms in known environments and cases and present the results of the experiments using dry run of the simulated runs of the existing machine learning algorithms versus IBSEAD.

연구 동기 및 목표

• 기존 기계 학습 알고리즘이 환경에 영향을 주는 제3자 또는 모르는 실체를 모델링하는 데에 한계가 있음을 해결한다.
• 의사결정 트리와 은닉 마르코프 모델이 시스템 행동에 영향을 주는 동적이고 관측되지 않은 상호작용을 고려하지 못하는 능력을 극복한다.
• 다중 실체 상호작용 프레임워크를 통해 꿈, 상상력, 새로운 일탈과 같은 고차원적 인간 인지 기능을 시뮬레이션한다.
• 자율적 실체 간 내부 및 외부 환경 상호작용을 관찰함으로써 자기 진화하는 학습 알고리즘을 개발한다.
• 비밀스럽고 모르는 실체를 학습 과정에 통합함으로써 복잡하고 변화하는 시스템의 정확도를 향상시킨다.

제안 방법

• 실체들이 독립적이고 동적으로 상호작용하는 분산된 자율적 실체의 네트워크로 환경를 모델링한다.
• 세 가지 실체 유형을 도입한다: 알려진(명시적으로 식별된), 모르는(존재는 하지만 식별 불가), 보이지 않는(직접 감지되지 않지만 시스템에 영향을 주는).
• 실체들이 다른 실체, 특히 컴퓨터의 내부 모델에 포함되지 않은 실체와의 상호작용을 감지하고 해석할 수 있도록 하여 자기 관찰과 자기 진화를 가능하게 한다.
• 외부 시스템이나 뇌 구조에 대한 전체 지식이 필요 없이도 상호작용 기반 학습을 통해 내부 표현을 업데이트한다.
• 특히 모르는 또는 보이지 않는 실체로부터 온 제3자 상호작용 피드백을 학습 과정에 통합하여 적응성을 향상시킨다.
• 관찰 가능한 데이터를 초월한 잠재적 상호작용의 내부 모델을 생성할 수 있도록 하여 상상력과 새로운 일탈과 같은 인지 현상을 시뮬레이션한다.

실험 결과

연구 질문

• RQ1 기계 학습 알고리즘이 환경 역학에 영향을 주는 모르는 실체와 보이지 않는 실체를 어떻게 더 잘 고려할 수 있는가?
• RQ2 자기 중심적이고 자기 진화하는 학습 시스템이 기존 모델에 비해 복잡하고 변화하는 시스템의 정확도를 얼마나 향상시킬 수 있는가?
• RQ3 자율적 실체 간 상호작용 기반 학습이 꿈, 상상력, 새로운 일탈과 같은 인간 유사 인지 기능을 시뮬레이션할 수 있는가?
• RQ4 제3자 상호작용—특히 모르는 실체를 포함한 상호작용—은 기계 학습 시스템의 행동과 학습에 어떤 영향을 미치는가?
• RQ5 의사결정 트리와 은닉 마르코프 모델과 같은 전통적 모델에 비해 다중 실체 프레임워크(알려진, 모르는, 보이지 않는)는 어떤 이점을 제공하는가?

주요 결과

• IBSEAD는 의사결정 트리와 HMM과 같은 전통적 알고리즘이 고려하지 못하는 모르는 실체와 보이지 않는 실체의 상호작용을 성공적으로 모델링한다.
• 관측되지 않은 상호작용과 제3자 상호작용을 통합할 수 있기 때문에 동적 환경에서 시뮬레이션 정확도가 향상됨을 입증한다.
• 시스템을 자기 관찰 실체로 간주함으로써 IBSEAD는 내부 및 외부 피드백 루프를 통해 자기 진화를 가능하게 한다.
• 이 프레임워크는 상상력과 새로운 일탈과 같은 고차원 인지 기능의 시뮬레이션을 지원하며, 이는 표준 기계 학습 모델에 부재한다.
• 드라이런 시뮬레이션 결과, 알려진 상호작용이 결과에 큰 영향을 주는 복잡하고 변화하는 시나리오에서 IBSEAD가 기존 알고리즘을 능가함을 보였다.
• 보이지 않는 실체의 통합은 특히 예측 불가능하거나 불안정한 환경에서 더 강력하고 적응력 있는 학습 행동을 이끌어낸다.