[논문 리뷰] "Weak AI" is Likely to Never Become "Strong AI", So What is its Greatest Value for us?

Bin Liu|arXiv (Cornell University)|2021. 03. 29.

Explainable Artificial Intelligence (XAI)참고 문헌 21인용 수 9

한 줄 요약

이 논문은 '약한 AI'(진정한 이해 없이 특정 작업에서 뛰어난 성능을 내는 딥 러닝 시스템)가 '강한 AI'(인간 수준의 인공 일반 지능)로 진화할 가능성은 거의 없지만, 그 가장 큰 가치는 대규모 데이터에서 확장 가능하고 데이터 기반의 패턴 추출을 가능하게 한다는 데 있다. 이 논문은 약한 AI를 인간 수준의 인식으로 향한 길이 아니라 강력한 경험적 도구로 보는 것으로, 실세계의 대규모 데이터 응용 분야에서 필수적이라는 역할을 재정의한다.

ABSTRACT

AI has surpassed humans across a variety of tasks such as image classification, playing games (e.g., go, "Starcraft" and poker), and protein structure prediction. However, at the same time, AI is also bearing serious controversies. Many researchers argue that little substantial progress has been made for AI in recent decades. In this paper, the author (1) explains why controversies about AI exist; (2) discriminates two paradigms of AI research, termed "weak AI" and "strong AI" (a.k.a. artificial general intelligence); (3) clarifies how to judge which paradigm a research work should be classified into; (4) discusses what is the greatest value of "weak AI" if it has no chance to develop into "strong AI".

연구 동기 및 목표

• 공개적이고 학술적인 논의에서 자주 혼동되는 '약한 AI'(특정 작업에 특화된 시스템)와 '강한 AI'(인간 수준의 이해를 갖춘 시스템) 간의 근본적 차이를 명확히 하기 위해.
• 최근의 진전에도 불구하고 지속되는 AI 분야의 논란을 해결하기 위해, '약한 AI' 분야의 진전이 실제로 실질적임을 보여주고, '강한 AI'는 여전히 대부분 이룩되지 못했다는 점을 제기하기 위해.
• 약한 AI의 주요 가치가 인간의 방식으로 의식적이거나 지능적으로 되는 데 있지 않고, 대신 확장 가능하고 효율적이며 정확한 데이터 처리를 가능하게 한다는 점을 주장하기 위해.
• 인간 지능 메커니즘에 대한 이해를 진전시키는지 여부에 따라 AI 연구를 '약한' 또는 '강한'으로 분류하는 명확한 기준을 제공하기 위해.
• 미래의 AI 논의에서 혼동을 피하고 연구자들과 대중 간에 더 집중적이고 생산적인 대화를 가능하게 하기 위해 더 명확한 용어 사용을 촉구하기 위해.

제안 방법

• 존 실의 '중국 방 논증'을 개념적 프레임워크로 사용하여 '약한 AI'와 '강한 AI'를 구분함. 여기서 '약한 AI'는 이해 없이 지능을 시뮬레이션함.
• 분류 기준 제안: 연구 작업이 인간 지능 메커니즘에 대한 새로운 통찰을 제공하면 '강한 AI' 파aradigm에 속하고, 그렇지 않으면 '약한 AI'로 간주함.
• 최근의 AI 돌풍(예: 알파고, GPT-3)을 '약한 AI'의 사례로 분석함. 이들은 원인적 추론이나 이해 없이 데이터 기반 패턴 학습을 통해 초인간 수준의 성능을 달성함.
• 특히 딥 러닝과 강화 학습을 포함한 경험적, 데이터 기반 방법들이 '약한 AI' 발전의 동력임을 강조함. 이는 이론 기반 또는 철학적으로 동기를 부여한 접근 방식과 대비됨.
• 펄, 매커스, 비숍 등의 주요 AI 전문가들의 비판을 활용하여 현재 '약한 AI'의 한계와 '강한 AI'를 달성하는 데 지속되는 과제를 설명함.
• '강한 AI'에 대한 신뢰할 수 있는 평가 방법이 부족하고, 굿엘의 완전성 정리도 진전을 더 어렵게 만들며, 이는 현재의 접근 방식으로는 '강한 AI'가 실현 가능하지 않을 수 있음을 강화함.

실험 결과

연구 질문

• RQ1 최근 몇 년 간의 상당한 진전에도 불구하고 AI에 대한 논란이 왜 지속되는가?
• RQ2 개념적이고 실용적인 측면에서 '약한 AI'와 '강한 AI'는 무엇으로 구분되는가?
• RQ3 '약한 AI'가 '강한 AI'로 진화할 수 있을까? 그러한 전환을 위한 이론적·실용적 장벽은 무엇인가?
• RQ4 '약한 AI'가 인간 수준의 이해나 일반 지능을 달성하지 못하는 한, 그 실질적 가치의 핵심은 무엇인가?
• RQ5 연구자들과 대중이 AI 연구를 어떻게 분류하고 논의해야 혼동을 피하고 더 생산적인 대화를 이끌 수 있는가?

주요 결과

• 약한 AI라는 용어는 이해나 의식을 갖추지 못하고 지능적인 행동을 시뮬레이션하는 시스템을 뜻하며, 예를 들어 이미지 인식이나 게임에서 뛰어난 성능을 내는 딥 러닝 모델이 포함된다.
• 광범위한 찬사를 받고도, '약한 AI'는 인간 수준의 인식을 재현하려는 '강한 AI' 분야의 진전에 기여하지 못했다. 이는 인간 지능의 메커니즘에 대한 통찰이 부족하기 때문이다.
• 알파고나 GPT-3와 같은 최근의 돌풍은 이론적 이해가 아니라 데이터 기반의 경험적 방법에 기반한 결과이며, 이는 이해 없이도 초인간 수준의 성능을 달성할 수 있음을 보여준다.
• 약한 AI의 가장 큰 가치는 대규모 데이터에서 복잡한 패턴을 효율적이고 확장 가능하게 추출하고 표현하며 활용할 수 있는 능력에 있다. 이는 실세계의 데이터 집약적 응용 분야에서 필수적이다.
• '강한 AI'에 대한 신뢰할 수 있는 평가 방법 부족과 굿엘의 완전성 정리와 같은 철학적 장벽은 현재의 접근 방식으로는 '강한 AI'가 실현 가능하지 않을 수 있음을 시사한다.
• 향후 '약한 AI'의 진전은 자동ML, 동적 포트폴리오, 클라우드 인프라와 같은 기술의 통합을 통해 이루어질 것이며, 이는 진정한 이해 없이도 자동화와 강건성을 더욱 향상시킬 것이다.