[논문 리뷰] Computational Inference in Cognitive Science: Operational, Societal and Ethical Considerations

Baihan Lin|arXiv (Cornell University)|2022. 10. 24.

Explainable Artificial Intelligence (XAI)인용 수 5

한 줄 요약

이 논문은 인지과학에서 행동 및 신경생리학적 데이터로부터 정신 상태를 추론하기 위해 기계학습을 사용할 때의 운영적, 사회적, 윤리적 고려사항을 강조하며, 디지털 헬스 및 임상 환경에서 신뢰할 수 있는 실생활 적용을 보장하기 위해 책임감 있는, 투명하고 해석 가능한 모델링을 지지하는 프레임워크를 제안한다.

ABSTRACT

Emerging research frontiers and computational advances have gradually transformed cognitive science into a multidisciplinary and data-driven field. As a result, there is a proliferation of cognitive theories investigated and interpreted from different academic lens and in different levels of abstraction. We formulate this applied aspect of this challenge as the computational cognitive inference, and describe the major routes of computational approaches. To balance the potential optimism alongside the speed and scale of the data-driven era of cognitive science, we propose to inspect this trend in more empirical terms by identifying the operational challenges, societal impacts and ethical guidelines in conducting research and interpreting results from the computational inference in cognitive science.

연구 동기 및 목표

• 가설 중심에서 데이터 중심으로의 점진적 전환을 다루기 위해 계산적 인지 추론을 핵심 연구 범주로 체계화한다.
• 기계학습을 사용하여 다중모odal 신호에서 인지 상태를 추론하는 데 있어 운영적 과제를 특정하고 분석한다.
• 정신건강 및 디지털 헬스 응용 분야에 계산적 추론 모델을 도입함에 따른 사회적 영향을 검토한다.
• 편향과 결과의 과도한 해석을 방지하기 위해 모델 개발, 해석 및 배포에 대한 윤리적 지침을 수립한다.
• 공공 참여, 투명성, 반복적 검증을 통합하여 책임감 있는 혁신을 촉진한다.

제안 방법

• 측정 가능한 신호(예: 행동, 뇌영상, 디지털 트레이스 등)를 기반으로 기초 인지 특성으로의 맵핑을 위해 기계학습 모델을 사용하는 계산적 인지 추론을 공식화한다.
• AI-인지 상호작용을 위한 삼단계 프레임워크를 제안한다: 계산적 추론, 인지 이론에 기반한 AI, 뇌 기제의 계산적 모델링.
• 특히 실생활 임상 및 디지털 헬스 환경에서 반복적 평가를 통한 모델의 해석 가능성과 검증을 강조한다.
• 다양한 데이터 수집, 다기준 평가, 모델 개발 중 도메인 전문가의 자문을 포함한 편향 완화 전략을 도입한다.
• 과도한 낙관을 방지하고 윤리적 배포를 보장하기 위해 AI 시스템 설계 초기 단계에서의 공공 참여와 투명성을 지지한다.
• 모델의 한계를 인지하고 AI를 영역 전문가로 오해하지 않으며 임상적 안전성을 확보하기 위해, 개념 증명 모델과 검증된 기술적으로 준비된 시스템 간의 차이를 명확히 하는 것이 중요하다.

실험 결과

연구 질문

• RQ1 다중모달 데이터로부터 인지 상태를 추론하는 데 있어 계산적 추론를 신뢰할 수 있는 방법으로 구현할 수 있는가?
• RQ2 기계학습 기반 인지 추론 모델의 개발 및 검증 과정에서 나타나는 주요 운영적 과제는 무엇인가?
• RQ3 정신건강 및 디지털 헬스 응용 분야에 AI 기반 인지 추론을 도입함에 있어 관련된 사회적 위험 요소는 무엇인가?
• RQ4 계산적 인지 추론 시스템의 설계 및 배포에 윤리적 지침을 어떻게 통합할 수 있는가?
• RQ5 개념 증명 모델을 실생활 임상 또는 응용 시스템으로 안전하게 전환할 수 있는 정도는 어느 정도인가?

주요 결과

• 계산적 인지 추론은 정신 상태에 대한 행동 가능하고 데이터 중심의 추론을 가능하게 하여 응용 인지과학의 핵심 요소가 된다.
• 현재 많은 AI 기반 인지 추론 모델은 기술적 준비도가 낮고 결과 과도한 해석 위험이 높은 개념 증명 수준의 시스템에 머물러 있다.
• 데이터 및 모델 설계의 편향은 다양한 데이터 샘플링, 다기준 평가, 모델 개발 중 전문가 자문을 통해 완화될 수 있다.
• 신뢰를 구축하고 오용을 방지하기 위해 AI 시스템 개발 초기 단계에서의 투명성과 공공 참여가 필수적이다.
• 윤리적 배포를 위해서는 모델의 한계를 인지하고 AI를 영역 전문가로 오해하지 않으며 임상적 안전성을 확보해야 한다.
• 검증되고 해석 가능하며 반복적인 모델링 과정은 디지털 헬스 및 정신건강 분야에서 개념에서 실생활 응용으로의 전환을 위해 필수적이다.