[논문 리뷰] Limitations of Deep Neural Networks: a discussion of G. Marcus' critical appraisal of deep learning

Stefanos Tsimenidis|arXiv (Cornell University)|2020. 12. 22.

Explainable Artificial Intelligence (XAI)인용 수 7

한 줄 요약

이 논문은 가리 마커스의 2018년 딥 러닝에 대한 비판을 철저히 분석하며, 딥 네ural 네트워크의 한계에 대한 핵심 논거를 검토한다. 데이터 비효율성, 추론 능력 부족, 취약성 등의 주요 약점을 논의하면서, 현재의 딥 러닝 패러다임을 뛰어넘는 더 견고하고 해석 가능한 인공지능 시스템에 대한 재개된 연구를 주장한다.

ABSTRACT

Deep neural networks have triggered a revolution in artificial intelligence, having been applied with great results in medical imaging, semi-autonomous vehicles, ecommerce, genetics research, speech recognition, particle physics, experimental art, economic forecasting, environmental science, industrial manufacturing, and a wide variety of applications in nearly every field. This sudden success, though, may have intoxicated the research community and blinded them to the potential pitfalls of assigning deep learning a higher status than warranted. Also, research directed at alleviating the weaknesses of deep learning may seem less attractive to scientists and engineers, who focus on the low-hanging fruit of finding more and more applications for deep learning models, thus letting short-term benefits hamper long-term scientific progress. Gary Marcus wrote a paper entitled Deep Learning: A Critical Appraisal, and here we discuss Marcus' core ideas, as well as attempt a general assessment of the subject. This study examines some of the limitations of deep neural networks, with the intention of pointing towards potential paths for future research, and of clearing up some metaphysical misconceptions, held by numerous researchers, that may misdirect them.

연구 동기 및 목표

• 가리 마커스의 2018년 논문 '딥 러닝: 비판적 평가'를 철저히 평가하고, 딥 러닝의 한계에 대한 핵심 논거를 분석한다.
• 딥 네ural 네트워크의 주요 한계, 특히 데이터 비효율성, 일반화 능력 부족, 분포 외 설정에서의 취약성 등을 특정하고 논의한다.
• 딥 러닝의 점진적 응용에 대한 연구 집중이 장기적인 과학적 진전을 저해할 수 있다는 점을 도전한다.
• 딥 러닝 모델의 능력과 현 상태에 대한 인공지능 공동체 내 오해를 명확히 한다.
• 현재의 딥 러닝 접근 방식의 근본적 한계를 해결할 수 있는 대체 인공지능 아키텍처에 대한 재개된 연구를 주장한다.

제안 방법

• 특히 일반화, 추론, 데이터 효율성에 중점을 두고, 가리 마커스의 딥 러닝에 대한 핵심 논거를 체계적으로 검토하고 통합한다.
• 실제 응용 사례를 분석하여, 인식된 성공과 모델의 근본적 한계 사이의 격차를 드러낸다.
• 신체적 개념 오해, 예를 들어 신경망의 인지 능력을 과도하게 평가하는 것과 같은 인공지능 연구의 철학적 오해를 논의한다.
• 딥 러닝 성능과 인간 수준의 추론 및 일반화 능력 간의 비교를 구조적 및 분포 외 작업에서 수행한다.
• 신경 기반 기호 통합 및 인과 추론과 같은 부족한 자금 지원을 받는 연구 분야를 식별하고, 향후 발전의 잠재적 길로 제시한다.
• 의료 영상, 자율 주행 차량 등 다양한 분야의 사례 연구를 활용하여 모델의 취약성과 데이터 의존도를 설명한다.

실험 결과

연구 질문

• RQ1 가리 마커스의 2018년 비판에서 밝혀진 딥 네ural 네트워크의 근본적 한계는 무엇인가?
• RQ2 왜 연구 공동체가 딥 러닝 응용에 집중함으로써 핵심 모델 약점 해결에 진전이 막힐 수 있었는가?
• RQ3 딥 러닝 모델의 인지 능력에 대한 오해가 과학적 연구를 잘못된 방향으로 이끌고 있는가?
• RQ4 현재의 딥 러닝 패러다임의 한계를 극복할 수 있는 대체 연구 방향은 무엇인가?
• RQ5 딥 네ural 네트워크는 어떻게 자신의 훈련 분포를 초월해 일반화하지 못하며, 이는 실세계 구현에 어떤 영향을 미치는가?

주요 결과

• 딥 네ural 네트워크는 인간이 소수의 예시에서 일반화할 수 있는 작업조차도 대량의 레이블이 있는 데이터가 필요로 하는 심각한 데이터 비효율성을 보인다.
• 현재의 딥 러닝 모델은 강력한 추론 능력을 갖추지 못하고 있으며, 논리적 추론이나 인과 이해가 필요한 작업에서 어려움을 겪는다.
• 모델은 분포 외 입력에서 취약하며, 심지어 차이가 미미하거나 시각적으로 미묘한 경우에도 고장이 나기 쉽다.
• 딥 러닝의 광범위한 성공은 연구 편향을 유도하여 기초적 모델 개선에 대한 투자 감소를 초래했을 수 있다.
• 현재의 딥 러닝 아키텍처가 인간 수준 또는 일반 지능을 달성하는 데 부적합하다는 공감대가 점점 커지고 있다.
• 신경 기반 기호 통합 및 하이브리드 접근 방식은 아직 탐색이 부족하지만, 향후 발전을 위한 핵심적일 수 있다.