[논문 리뷰] There is no Artificial General Intelligence

Jobst Landgrebe, Barry Smith|arXiv (Cornell University)|2019. 06. 09.

Topic Modeling참고 문헌 68인용 수 4

한 줄 요약

이 논문은 인간 대화의 복잡성을 완전히 습득할 수 없는 한계가 있는 튜링 기계의 성질상, 인간 대화의 동적 맥락, 의도, 정서적 신호, 변화하는 대화의 시야를 이해하는 데 필요한 능력이 인공통합지능(AGI)을 수학적으로 불가능하게 만든다고 주장한다. 저자들은 유창하고 맥락에 따라 적응 가능한 대화가 AGI의 필수 조건이지만, 이는 어떤 계산 시스템으로도 달성될 수 없기 때문에 AGI 자체는 실현 불가능하다고 결론 내린다.

ABSTRACT

The goal of creating Artificial General Intelligence (AGI) -- or in other words of creating Turing machines (modern computers) that can behave in a way that mimics human intelligence -- has occupied AI researchers ever since the idea of AI was first proposed. One common theme in these discussions is the thesis that the ability of a machine to conduct convincing dialogues with human beings can serve as at least a sufficient criterion of AGI. We argue that this very ability should be accepted also as a necessary condition of AGI, and we provide a description of the nature of human dialogue in particular and of human language in general against this background. We then argue that it is for mathematical reasons impossible to program a machine in such a way that it could master human dialogue behaviour in its full generality. This is (1) because there are no traditional explicitly designed mathematical models that could be used as a starting point for creating such programs; and (2) because even the sorts of automated models generated by using machine learning, which have been used successfully in areas such as machine translation, cannot be extended to cope with human dialogue. If this is so, then we can conclude that a Turing machine also cannot possess AGI, because it fails to fulfil a necessary condition thereof. At the same time, however, we acknowledge the potential of Turing machines to master dialogue behaviour in highly restricted contexts, where what is called ``narrow'' AI can still be of considerable utility.

연구 동기 및 목표

• 유창하고 맥락에 따라 적응 가능한 인간 대화에 참여할 수 있는 능력이 AGI의 필수 조건임을 입증하는 것.
• 맥락 전환, 정서적 신호, 실용적 해석을 포함한 인간 대화의 구조적 및 인지적 복잡성을 분석하는 것.
• 기존 프로그래밍이나 기계 학습 모델이 인간 대화의 완전한 습득을 달성할 수 없음을 수학적으로 입증하는 것.
• 대화 습득이 AGI에 필수 조건이지만, 이는 기계로는 실현 불가능하므로 AGI 자체도 불가능하다는 주장을 펼이는 것.
• 제한된 영역에서의 좁은 인공지능의 잠재력과 기계에서 일반 지능을 달성하는 데 있어 근본적인 불가능성 사이의 차이를 명확히 하는 것.

제안 방법

• 변화하는 대화의 시야와 상호 적응을 포함한 동적이고 맥락에 민감하며 정서적으로 층위가 깊은 상호작용으로서 인간 대화의 본질을 분석하는 것.
• 턴 테이킹 방해, 잘못된 시작, 중단, 정서적 조절과 같은 핵심 대화 현상이 기계 모델링에 있어 핵심 과제임을 식별하는 것.
• 의도, 지시어, 암시적 의미가 대화 해석에 미치는 영향을 분석하는 것. 이는 공유 지식과 생애적 맥락에 의존한다.
• 기존의 수학적 모델이 이러한 대화 복잡성을 모델링하기 위한 기초로 기능할 수 없다는 주장.
• 기계 학습 모델이 번역과 같은 좁은 과제에서는 성공했지만, 개방형 인간 대화의 전체 일반성 처리에는 확장될 수 없다는 것을 입증하는 것.
• 대화 유지의 동적 균형 모델을 사용하여 인간 대화의 회복력이 계산 불가능한 인지적 및 정서적 조율에 기반한다는 것을 보여주는 것.

실험 결과

연구 질문

• RQ1 유창하고 맥락에 따라 적응 가능한 대화를 수행할 수 있는 능력은 인공통합지능(AGI)을 위한 필수 조건인가?
• RQ2 기존의 또는 기계 학습 기반 모델이 정서적 및 맥락 전환을 포함한 인간 대화의 전체 일반성을 재현할 수 있는가?
• RQ3 튜링 기계가 인간 대화의 전체 복잡성에서 완전히 습득하는 것을 방해하는 수학적 또는 구조적 제약는 무엇인가?
• RQ4 대화를 지능의 척도로 삼는 튜링 테스트의 核심 아이디어가 이론적으로는 매력적이지만, 왜 AGI의 기준으로서 충분하지 않은가?
• RQ5 좁은 인공지능 시스템은 제한된 맥락에서 얼마나 잘 대화를 시뮬레이션할 수 있으며, 왜 이는 AGI에 도달하지 못하는가?

주요 결과

• 유창하고 맥락에 따라 적응 가능한 대화를 수행할 수 있는 능력은 AGI의 필수 조건이다. 대화는 인간의 의사소통, 문화, 실용적 지능의 기초를 이룬다.
• 인간 대화는 정서적, 의도적, 맥락적, 구조적 차원에서 지속적인 동적 적응을 포함하며, 이는 어떤 계산 시스템으로도 해결 불가능한 복잡성을 지닌다.
• 인간 대화의 전체 일반성 습득을 위한 기초가 될 수 있는 기존의 수학적 모델는 존재하지 않는다.
• 번역과 같은 좁은 영역에서 성공한 고급 기계 학습 모델이라도, 개방형 인간 대화의 전체 복잡성 처리에는 확장될 수 없다.
• 과거 발언의 재해석과 실시간 맥락 전환을 포함한 대화의 시야의 동적 진화는 현재의 계산 아키텍처로는 포착될 수 없다.
• 좁은 인공지능은 제한된 맥락에서 대화를 시뮬레이션할 수는 있지만, 필수 조건인 완전한 대화 습득이 부족하므로 AGI 자체는 원칙적으로 불가능하다.