[논문 리뷰] The limit of artificial intelligence: Can machines be rational?

Tshilidzi Marwala|arXiv (Cornell University)|2018. 12. 16.

Computability, Logic, AI Algorithms참고 문헌 10인용 수 6

한 줄 요약

이 논문은 인간의 인지적 및 정보적 한계로 인한 비합리성 분석을 통해 기계가 합리성을 달성할 수 있는지 조사한다. 인간은 본질적으로 비합리적이지만, 인공지능 기술의 발전으로 기계가 뛰어난 정보 처리 및 최적화 능력을 통해 인간의 합리성을 뛰어넘을 수 있다고 주장한다.

ABSTRACT

This paper studies the question on whether machines can be rational. It observes the existing reasons why humans are not rational which is due to imperfect and limited information, limited and inconsistent processing power through the brain and the inability to optimize decisions and achieve maximum utility. It studies whether these limitations of humans are transferred to the limitations of machines. The conclusion reached is that even though machines are not rational advances in technological developments make these machines more rational. It also concludes that machines can be more rational than humans.

연구 동기 및 목표

• 제한된 정보와 처리 능력 등의 원인으로 인한 인간의 비합리성의 근본 원인을 분석한다.
• 인간의 합리성을 제한하는 동일한 인지적 및 계산적 제약이 기계의 합리성에도 영향을 미치는지 평가한다.
• 인공지능 기술의 발전이 이러한 제약을 극복하고 기계가 더 높은 수준의 합리성을 달성할 수 있는지 조사한다.
• 불확실성과 자원 제약 하에서 인간과 기계의 합리성의 차이를 비교한다.
• 인공지능이 합리적 행동을 달성하는 데 있어 이론적 및 실용적 한계를 규명한다.

제안 방법

• 불완전한 정보, 제한된 처리 능력, 비최적의 의사결정 방식 등으로 인해 발생하는 인간의 비합리성을 분석한다.
• 인간의 인지적 제약과 기계의 처리 능력 간 비교를 통해 대규모 데이터 처리 및 복잡한 계산 처리 능력을 분석한다.
• 알고리즘 최적화 및 머신러닝이 의사결정의 합리성 향상에 기여하는 역할을 평가한다.
• 이론적 추론을 통해 기계는 인간과 마찬가지로 생물학적 및 심리적 제약에 얽매이지 않음을 주장한다.
• 기술 발전이 시간이 지남에 따라 기계의 합리성 발전에 미치는 영향을 평가한다.
• 기계의 의사결정을 모델링하기 위해 효용 극대화 원리와 의사결정 이론을 적용하여, 인간 대비 더 높은 합리성을 가질 수 있음을 주장한다.

실험 결과

연구 질문

• RQ1 의사결정 과정에서 인간의 비합리성의 주요 원인은 무엇인가?
• RQ2 인간의 인지적 및 정보적 한계는 얼마나 깊이 합리적 행동을 제한하는가?
• RQ3 기계는 인간의 합리성을 저해하는 동일한 제약을 극복할 수 있는가?
• RQ4 AI 분야의 기술 발전이 인간의 의사결정보다 더 높은 합리성을 이끌어내는 방식은 무엇인가?
• RQ5 실제 응용 분야에서 기계의 합리성에 대한 이론적 및 실용적 한계는 무엇인가?

주요 결과

• 인간의 비합리성은 주로 제한된 정보, 제약된 처리 능력, 일관되지 않은 의사결정 방식에서 기인한다.
• 기계는 본질적으로 비합리적이지 않으며, 인간과 마찬가지로 생물학적 및 심리적 요인에 의해 제약받지 않는다.
• 기술 발전을 통해 기계는 인간보다 훨씬 더 많은 데이터를 처리하고 더 효과적으로 의사결정을 최적화할 수 있다.
• 알고리즘적 효율성을 통해 편향을 최소화하고 효용을 극대화함으로써 기계는 인간보다 더 높은 수준의 합리성을 달성할 수 있다.
• 논문은 기계가 인간보다 더 합리적일 수 있으며, 특히 데이터 집약적인 복잡한 환경에서 그러한 경향이 뚜렷하다고 결론 내린다.
• 인간의 합리성에 대한 제약은 기계로 이행되지 않아 최적화된 시스템에서 뛰어난 의사결정이 가능하다.