[논문 리뷰] Comparison between the two definitions of AI

Dimiter Dobrev|arXiv (Cornell University)|2013. 01. 31.

Computability, Logic, AI Algorithms참고 문헌 3인용 수 6

한 줄 요약

이 논문은 두 가지 인공지능 정의를 비교한다: 하나는 비형식적 정의로, 어떤 환경에서나 인간을 능가하는 프로그램을 인공지능으로 간주하는 것이며, 다른 하나는 형식적 정의로, 테스트 세계 전반에서 지능지수(IQ)가 0.7 이상인 프로그램을 인공지능으로 정의하는 것이다. 주요 기여는 이러한 정의들이 동치가 아니라는 것을 입증한 것으로, 첫 번째 정의에서 무한 수명을 가정함으로써 '지능이 떨어지는' 프로그램(거의 무한한 학습이 필요한 프로그램)이 인공지능으로 간주될 수 있다는 점에서 개념의 실용성에 근본적인 문제가 있음을 드러낸다.

ABSTRACT

Two different definitions of the Artificial Intelligence concept have been proposed in papers [1] and [2]. The first definition is informal. It says that any program that is cleverer than a human being, is acknowledged as Artificial Intelligence. The second definition is formal because it avoids reference to the concept of human being. The readers of papers [1] and [2] might be left with the impression that both definitions are equivalent and the definition in [2] is simply a formal version of that in [1]. This paper will compare both definitions of Artificial Intelligence and, hopefully, will bring a better understanding of the concept.

연구 동기 및 목표

• 이전 연구에서 제안된 두 가지 주요 인공지능 정의 간의 개념적 및 형식적 차이를 명확히 하는 것.
• 비형식적 정의(인간을 능가하는 프로그램)가 형식적 정의(지능지수 > 0.7)와 논리적으로 동치인지 조사하는 것.
• 프로그램 수명이 무한인지 유한인지에 따라 지능 평가에 미치는 영향을 분석하는 것.
• 무한히 긴 학습 시간 이후에나 성공할 수 있는 프로그램의 능력이 지능으로 간주되어야 한다는 가정을 도전하는 것.
• 실용적이고 의미 있는 지능을 반영하는 데 더 낫다는 점에서 형식적 지능지수 기반 정의의 우월성을 주장하는 것

제안 방법

• 비형식적 정의를 형식화하여, 임의의 비 fatal 환경에서 프로그램의 성능과 추상적 인간의 성능을 비교하는 방식.
• 지능지수(IQ)를 테스트 세계 집합에서 프로그램의 평균 성공률로 정의하고, 지능지수 > 0.7을 인공지능 기준으로 설정.
• '지능이 떨어지는 프로그램'—즉, 거의 무한한 학습 시간이 필요한 프로그램—을 도입하여 두 정의의 탄탄함을 시험하는 것.
• 프로그램 수명의 영향을 분석: 무한(정의 1) 대 유한(정의 2), 그리고 두 번째 정의에서 전용 학습 기간을 제거한 것.
• 영원한 프로그램과 死한 인간을 포함한 사고 실험을 통해, 무한 시간 동안의 성능 비교에 내재된 결함을 드러내는 것.
• 무한 시간 동안 학습 기간이 없이 '빨리 배우거나 죽는다'는 원칙을 적용하여, 형식적 정의에서의 영속적 학습 기간 제거를 정당화하는 것

실험 결과

연구 질문

• RQ1 비형식적 정의(어떤 세계에서나 인간을 능가하는 프로그램)와 형식적 정의(지능지수 > 0.7)는 논리적으로 동치인가?
• RQ2 무한한 프로그램 수명을 가정할 경우, 거의 무한한 학습이 필요한 프로그램가지 인공지능로 분류되는 데 영향을 미치는가?
• RQ3 왜 형식적 정의에서는 학습 기간을 배제하였으며, 영속적 학습 시간이 없는 가정이 가져오는 영향은 무엇인가?
• RQ4 실제 인간(사망하는 인간)과 추상적 인간(피로나 사망이 없는 인간)을 비교할 경우, 어떤 결과가 도출되는가?
• RQ5 지능지수 = 0.5(예: 무작위 또는 일정한 움직임)인 프로그램이 어느 정의에서도 인공지능으로 간주되는가? 이는 기준선에 어떤 함의를 갖는가?

주요 결과

• 비형식적 정의에서는 무한한 수명을 가진다는 가정으로 인해 거의 무한한 학습이 필요한 '지능이 떨어지는 프로그램'까지도 인공지능으로 분류될 수 있어, 두 정의가 동치가 아니라는 점이 입증된다.
• 지능지수 = 0.5인 프로그램(무작위 또는 정지된 프로그램)은 무한 시간 동안 사망한 인간과 동일한 평균 성공률을 보이므로, 이는 비형식적 정의의 근본적인 문제를 드러낸다.
• 형식적 정의(IQ > 0.7)는 유한하고 경계된 수명 동안의 성능을 평가하므로 더 탄탄하며, 무한한 시간이 도입하는 역설을 피할 수 있다.
• 비형식적 정의를 위해서는 영원히 건강하고 경각심이 있는 추상적 인간이 필요하다. 실존하는 인간을 사용할 경우, 가장 둔한 프로그램도 장기적으로 인간을 능가하는 비직관적인 결과가 도출된다.
• 논문은 지능지수를 무한한 수명에 대한 극한이 아닌, 프로그램의 실제 수명에 기반해 정의해야 하며, 이는 느리게 학습하는 프로그램이 잘못 분류되는 것을 방지하기 위함이라고 주장한다.
• 형식적 정의는 제한된 학습 시간과 유한한 자원과 같은 현실 세계의 제약을 더 잘 반영하므로, 실용적 인공지능 평가에 더 적합하다.