[논문 리뷰] Advancing Explainable AI Toward Human-Like Intelligence: Forging the Path to Artificial Brain

Yongchen Zhou, Richard Jiang|arXiv (Cornell University)|2024. 02. 07.

Explainable Artificial Intelligence (XAI)인용 수 4

한 줄 요약

이 논문은 신경과학, 인지과학, 윤리를 융합하여 인공지능 시스템에서 인간과 유사한 지능(HLI)을 구현함으로써 해석 가능한 인공지능(XAI)을 발전시킨다. 기능 기반 및 픽셀 수준의 설명 방법을 통해 모델의 해석 가능성과 투명성, 책임감 있는 설계, 인지적 일치를 달성하고자 하는 다학제적 프레임워크를 제안한다. 이는 정서 지능과 의식 기반 설계를 통한 투명하고 윤리적인, 인간과 유사한 지능을 지닌 인공지능을 목표로 한다.

ABSTRACT

The intersection of Artificial Intelligence (AI) and neuroscience in Explainable AI (XAI) is pivotal for enhancing transparency and interpretability in complex decision-making processes. This paper explores the evolution of XAI methodologies, ranging from feature-based to human-centric approaches, and delves into their applications in diverse domains, including healthcare and finance. The challenges in achieving explainability in generative models, ensuring responsible AI practices, and addressing ethical implications are discussed. The paper further investigates the potential convergence of XAI with cognitive sciences, the development of emotionally intelligent AI, and the quest for Human-Like Intelligence (HLI) in AI systems. As AI progresses towards Artificial General Intelligence (AGI), considerations of consciousness, ethics, and societal impact become paramount. The ongoing pursuit of deciphering the mysteries of the brain with AI and the quest for HLI represent transformative endeavors, bridging technical advancements with multidisciplinary explorations of human cognition.

연구 동기 및 목표

• 해석 가능한 인공지능(XAI)을 신경과학 및 인지과학과 융합하여 인공지능 시스템에서 인간과 유사한 추론 기능을 가능하게 하기.
• 특히 비가산적 모델에서 의사결정의 '어떻게'와 '왜'를 설명하는 데에 한계를 보이는 현재의 XAI 기법의 한계를 해결하기.
• 투명한 인공지능 시스템 설계에 윤리적 고려사항, 책임성, 사회적 영향을 통합함으로써 윤리적이고 책임감 있는 인공지능을 발전시키기.
• 다학제적 융합을 통해 정서 지능과 자각 능력을 포함한 인간과 유사한 지능(HLI)의 개발 탐색하기.
• 인간 뇌의 비밀을 규명하는 데 도구로 활용함으로써 인지과학 및 신경학적 건강 분야의 돌파구를 마련하기 위해 인공지능을 인간 뇌 해독 수단으로 위치시키기.

제안 방법

• 모델 결정의 국소적 및 전역적 해석 가능성을 제공하기 위해 SHAP, CAM, Grad-CAM, GAMs와 같은 기능 기반 XAI 기법을 활용한다.
• 입력 픽셀까지의 기여도를 추적하기 위해 Layer-Wise Relevance Propagation(LRP) 및 DeconvNet과 같은 픽셀 수준의 설명 방법을 사용한다.
• 사람의 추론 과정과 일치하는 사용자 중심의 XAI 시스템 설계를 위해 인지과학 및 인간-컴퓨터 상호작용(HCI) 원리를 통합한다.
• 신경망 설계의 발전이 뇌 연구에 기여하고 반대로 뇌 연구의 성과가 인공지능 개발에 영향을 주는 상호작용 피드백 루프를 제안한다.
• 정확도와 해석 가능성의 비교 분석을 위해 VGG-16, ResNet-50, SpinalNet 등의 딥러닝 아키텍처와 의사결정 트리, 랜덤 포레스트 등의 해석 가능한 모델을 활용한다.
• 사고 기반 제어를 가능하게 하고 신경 기제에 대한 이해를 심화하기 위해 신경-인공지능 인터페이스 및 뇌-컴퓨터 인터페이스의 활용을 주장한다.

Figure 1: The cycle of learning. As neural networks evolve by mimicking the brain, they offer insights that, in turn, illuminate our understanding of cerebral processes.

실험 결과

연구 질문

• RQ1 특히 복잡한 생성 모델에서 '어디서'가 아니라 '왜'와 '어떻게' 결정이 내려지는지를 설명할 수 있도록 XAI 기법을 어떻게 향상시킬 수 있는가?
• RQ2 신경과학과 인지과학의 융합은 AI 시스템의 해석 가능성과 인간과 유사한 성격을 향상시키는 데 어떤 방식으로 기여하는가?
• RQ3 자기 인식과 정서 지능을 지닌 AI 시스템을 설계할 때 발생하는 윤리적 및 철학적 과제는 무엇인가?
• RQ4 AI는 기억, 학습, 의식과 관련된 인간 뇌의 기제를 해독하는 데 어떻게 기여할 수 있는가?
• RQ5 신경-인공지능 인터페이스는 AI의 해석 가능성 향상과 인간 인지 이해 심화에 어떤 역할을 하는가?

주요 결과

• SpinalNet는 높은 해석 가능성과 함께 97.32%의 정확도를 달성하여 고성능 모델이 정확성과 해석 가능성 모두를 동시에 확보할 수 있음을 입증한다.
• SHAP 및 Grad-CAM++과 같은 기능 기반 기법은 일관되고 국소화된 결정 설명을 제공하지만, 비가산적 또는 복잡한 추론을 설명하는 데에는 한계가 있다.
• LRP 및 DeconvNet과 같은 픽셀 수준의 기법은 결정 기여도를 개별 입력 픽셀까지 추적하여 모델 행동의 후행 분석을 가능하게 한다.
• XAI와 인지과학의 융합은 특히 정신 건강 및 고객 서비스 분야에서 더 자연스럽고 공감 어린 AI 상호작용을 가능하게 한다.
• 신경-인공지능 융합은 기억 형성과 신경 전달 패턴과 같은 뇌 기제에 대한 새로운 통찰을 제공하며, 알츠하이머병과 같은 질환의 치료에 응용 가능성을 지닌다.
• 인간과 유사한 지능(HLI)의 추구에는 기술적 혁신 외에도 철학, 윤리학, 심리학과의 깊은 융합이 필요하며, 이는 윤리적이고 의미 있는 인공지능 개발을 보장하기 위함이다.

Figure 2: The inscrutability of generative models. Generative models, similar to black boxes, conceal the intricate processes behind their creative outputs, making their internal workings enigmatic and challenging for humans to decipher.