[논문 리뷰] How does the AI understand what's going on

Dimiter Dobrev|arXiv (Cornell University)|2018. 04. 27.

Reinforcement Learning in Robotics참고 문헌 7인용 수 5

한 줄 요약

이 논문은 시간적 및 맥락적 변화를 추적하는 내부 상태를 유지함으로써 인공지능이 '내 위치는 어디인가?' 및 '무엇이 일어나고 있는가?'와 같은 근본적인 질문에 답할 수 있도록 하는 메모리 증강 AI 프레임워크를 제안한다. 주요 기여는 AI를 정적 함수에서 맥락 인식 및 자기참조적 추론 능력을 갖춘 장치로 전환하는 동적 메모리 기반 모델이다.

ABSTRACT

Most researchers regard AI as a static function without memory. This is one of the few articles where AI is seen as a device with memory. When we have memory, we can ask ourselves: "Where am I?", and "What is going on?" When we have no memory, we have to assume that we are always in the same place and that the world is always in the same state.

연구 동기 및 목표

• AI를 정적이고 기억이 없는 함수로 보는 기존 관점을 도전하기 위해.
• 메모리가 AI가 시간적 및 맥락적 변화를 이해하는 데 어떻게 기여하는지 조사하기 위해.
• 시간적 및 상황적 변화를 추적하기 위해 AI가 내부 상태를 유지하는 프레임워크를 제안하기 위해.
• 지속적인 메모리를 통해 '내 위치는 어디인가?' 및 '무엇이 일어나고 있는가?'와 같은 질문에 답할 수 있도록 AI를 가능하게 하기 위해.
• AI 시스템이 시간과 공간에 위치해 있다는 인식을 갖도록 기초를 마련하기 위해.

제안 방법

• 시간이 지남에 따라 저장하고 업데이트하는 내부 상태를 유지하는 메모리 증강 AI 모델을 도입한다.
• AI의 내부 표현을 입력과 시간에 따라 변화하는 동적 함수로 모델링한다.
• 메모리의 핵심 구성 요소로 '자기 위치'와 '세계 상태' 개념을 사용한다.
• 과거 입력과 내부 메모리를 기반으로 AI의 현재 상태를 정의함으로써 맥락적 연속성을 확보한다.
• AI 추론을 '내 위치는 어디인가?' 및 '무엇이 일어나고 있는가?'에 답하는 과정으로 프레임워크화한다.
• AI 행동을 고립된 응답이 아닌 자기 인식 상태의 연속성으로 모델링하기 위해 프레임워크를 적용한다.

실험 결과

연구 질문

• RQ1 AI 시스템은 어떻게 자기 위치와 상황 인식 능력을 갖출 수 있는가?
• RQ2 메모리는 AI가 시간적 및 맥락적 변화를 이해하는 데 어떻게 기여하는가?
• RQ3 메모리가 없는 상황에서 AI는 세계의 현재 상태에 대해 추론하는 데 어떤 제약을 받는가?
• RQ4 AI를 '무엇이 일어나고 있는가?'에 답하기 위해 내부 상태를 지속적으로 업데이트하는 장치로 모델링할 수 있는가?
• RQ5 정적 함수가 아니라 메모리 기반 시스템으로 AI를 바라보는 데 어떤 함의가 있는가?

주요 결과

• 논문은 메모리가 다이나믹한 환경에서 지속성과 맥락을 인지하는 데 필수적임을 입증한다.
• 메모리가 없으면 AI는 정적 세계 상태를 전제로 하여 변화나 위치에 대한 추론 능력이 제한된다.
• 지속적인 내부 상태를 유지함으로써 모델은 '내 위치는 어디인가?' 및 '무엇이 일어나고 있는가?'에 답할 수 있다.
• 프레임워크는 AI를 함수가 아니라 시간적 및 맥락적 인식 능력을 갖춘 장치로 재정의한다.
• 이 접근법은 자기참조적 및 맥락 민감한 AI 행동에 대한 이론적 기초를 제공한다.
• 연구는 메모리를 고위 수준의 인공지능 인지 기능을 수행하기 위한 전제 조건으로 위치한다.