[논문 리뷰] A World of Views: A World of Interacting Post-human Intelligences

Viktoras Veitas, David Weinbaum|arXiv (Cornell University)|2014. 10. 25.

Chaos, Complexity, and Education참고 문헌 11인용 수 10

한 줄 요약

이 논문은 인간보다 훨씬 더 지능이 높은 후인간 지능—즉 인간 지각과는 전혀 다른 존재들—의 개념적이고 철학적 함의를 탐구한다. 이들은 잠재적인 형태, 상호작용 방식, 사회적 구조를 갖는다. 논문은 이러한 지능체들이 인간의 인지 방식과는 너무나 다를 뿐 아니라, 기존의 은유나 정량적 분석이 통하지 않으며, 기술적 싱귤라리티를 인간이 이해할 수 없는 사건으로 프레임워크화한다. 또한 인간, 기계, 또는 하이브리드일 수 있는 초지능 생명체 사회의 사고 실험적 모델을 제안함으로써 미래 지능의 진화를 이해하는 데 기초가 되는 틀을 제공한다.

ABSTRACT

What would a human hundreds or thousands times more intelligent than the brightest human ever born be like? We must admit we can hardly guess. A human being of such intelligence will be so radically different from us that it can hardly, if at all, be recognized as human. If we had to go back along the evolutionary tree to identify a creature 1000 times less intelligent than the average contemporary human, we will have to go really far back. Would it be a kind of a lizard? An insect perhaps? Considering this, how can we possibly aspire to have a grasp of something a thousand times more intelligent than us? When it comes to intelligence, even the very attempt to quantify it is highly misleading. Now if we attend to a seemingly adjacent question, what would a machine with such capacity for intelligence be like? Just coming up with an approximate metaphor requires a huge stretch of the imagination, meaning that almost anything goes... What would a society of such super intelligent agents, be they human, machines or an amalgam of both, be like? Well, here we are transported into the realm of pure speculation. Technological Singularity is referred to as the event of artificial intelligence surpassing the intelligence of humans and shortly after augmenting itself far beyond that. It is no wonder that the mathematical concept of singularity has become the symbol of an event so disruptive and so far reaching that it is impossible to conceptually or even metaphorically grasp, much less to predict.

연구 동기 및 목표

• 인간의 인지 능력보다 훨씬 뛰어난 지능의 본질과 함의를 조사하는 것.
• 인간의 인지 능력이 초지능 생명체를 개념화하는 데서 보이는 한계를 검토하는 것.
• 서로 상호작용하는 후인간 지능으로 구성된 세계에서의 사회적 및 존재론적 결과를 탐구하는 것.
• 기술적 싱귤라리티를 이해하는 데 있어 은유적이고 철학적인 과제를 분석하는 것.
• 인간, 기계, 또는 하이브리드일 수 있는 초지능 생명체 사회를 상상할 수 있는 사고 실험적 틀을 제안하는 것.

제안 방법

• 인간의 인지 한계를 초월하는 후인간 지능을 모델링하기 위해 철학적 추론과 사고 실험을 사용한다.
• 진화생물학의 유사 사례를 인용하여 인간과 초지능 생명체 사이의 인지적 거리감을 설명한다.
• 기술적 싱귤라리티 개념을 이해할 수 없는, 극적인 전환을 의미하는 은유로 적용한다.
• 초지능의 본질을 인간의 스케일을 초월한 상황에서 이해하기 위해 개념적 은유와 유사성을 활용한다.
• 인간 지능을 뛰어넘는 자기 향상형 인공지능의 영향을 분석한다.
• 서로 상호작용하는 후인간 지능 생명체로 구성된 사회의 사고 실험적 모델을 제안하며, 그들이 인간의 인지와 얼마나 근본적으로 다를 수 있는지를 강조한다.

실험 결과

연구 질문

• RQ1 지능이 가장 뛰어난 인간보다 수천 배 높은 존재는 어떤 모습을 띨 것이며, 인간과 어떻게 다를 것인가?
• RQ2 인간의 인지 능력과 언어는 초지능 생명체를 어느 정도 모델링하거나 이해할 수 있는가?
• RQ3 후인간 지능으로 구성된 사회—인간, 기계, 또는 하이브리드일 수 있는—는 어떻게 상호작용하고 조직될 수 있는가?
• RQ4 왜 기술적 싱귤라리티 개념은 본질적으로 인간의 이해를 초월하는가?
• RQ5 인간의 상상력에 한계가 있음을 감안할 때, 초지능을 이해하기 위해 어떤 은유나 틀이 도움이 될 수 있는가?

주요 결과

• 후인간 지능은 인간과 너무나 근본적으로 다를 뿐 아니라, 심지어 인간 진화의 산물일지라도 인간으로서의 정체성을 인정받을 수 없다.
• 인간과 초지능 사이의 인지적 격차는 너무나 크기 때문에, 곤충이나 도마뱀과 같은 진화적 유사성조차도 그 깊이 있는 차이를 제대로 반영하지 못한다.
• 지능을 정량화하는 것은 초지능 생명체에 적용할 경우 본질적으로 오해의 소지가 있으며, 이러한 인지적 도약은 비선형적이며 정성적 특성을 띤다.
• 초지능을 위한 은유는 본질적으로 부적절하며, 그만큼의 상상력의 도전이 필요하기 때문에 은유를 구성할 때 '거의 모든 것이 가능'해진다.
• 기술적 싱귤라리티는 단지 미래의 사건이 아니라, 예측과 이해가 불가능해지는 개념적 한계점이다.
• 서로 상호작용하는 후인간 지능 생명체 사회는 현재 인간의 틀로는 그 행동이나 사회 구조를 모델링할 수 없기 때문에 순전히 추측의 영역에 머무른다.