[논문 리뷰] Assessing the impact of machine intelligence on human behaviour: an interdisciplinary endeavour

Emília Gómez, Carlos D. Castillo외 24명|arXiv (Cornell University)|2018. 06. 07.

Explainable Artificial Intelligence (XAI)참고 문헌 3인용 수 6

한 줄 요약

이 논문은 기계 지능이 인간의 인지, 의사결정 및 사회적 영향에 미치는 영향을 평가하기 위해 다학제적 전문가들이 모인 최초의 HUMAINT 워크숍의 결과를 제시한다. 연구 과제, 평가 필요성, 규제 전략을 규명하고, 영역 간 통합된 프레임워크를 제안하여 AI의 행동적 영향을 종합적으로 연구할 수 있도록 한다.

ABSTRACT

This document contains the outcome of the first Human behaviour and machine intelligence (HUMAINT) workshop that took place 5-6 March 2018 in Barcelona, Spain. The workshop was organized in the context of a new research programme at the Centre for Advanced Studies, Joint Research Centre of the European Commission, which focuses on studying the potential impact of artificial intelligence on human behaviour. The workshop gathered an interdisciplinary group of experts to establish the state of the art research in the field and a list of future research challenges to be addressed on the topic of human and machine intelligence, algorithm's potential impact on human cognitive capabilities and decision making, and evaluation and regulation needs. The document is made of short position statements and identification of challenges provided by each expert, and incorporates the result of the discussions carried out during the workshop. In the conclusion section, we provide a list of emerging research topics and strategies to be addressed in the near future.

연구 동기 및 목표

• 기계 지능이 인간의 인지 과정과 의사결정 행동에 미치는 다차원적 영향을 평가하기 위해.
• AI 시스템이 사회적, 심리적, 윤리적 차원에서 인간 행동을 어떻게 형성하는지 이해하는 데 있어 핵심적인 연구 격차와 과제를 규명하기 위해.
• AI 평가, 규제, 인간-AI 상호작용에 관한 향후 다학제적 연구의 기반을 마련하기 위해.
• AI, 인지과학, 윤리학, 인간-컴퓨터 상호작용 분야의 전문가들이 협력하여 발생하는 사회적 과제를 해결하기 위해.
• 실생활 행동적 맥락에서 AI 시스템을 평가하고 규제하기 위한 실행 가능한 연구 전략을 개발하기 위해.

제안 방법

• AI, 인지과학, 윤리학, 인간-컴퓨터 상호작용 분야의 전문가 26명으로 구성된 다학제적 워크숍을 개최하였다.
• 분야 전문가들로부터 위치 성명과 연구 과제를 수집하여 현재 지식 수준을 맵핑하였다.
• 토론 결과를 통합하여 부상하는 연구 주제와 방법론적 필요성을 규명하였다.
• 다양한 영역 간 협업과 윤리적 고려사항을 통해 AI의 행동적 영향을 평가하기 위한 프레임워크를 제안하였다.
• 인간 행동에 영향을 미치는 AI 시스템의 평가 지표와 규제 경로를 규명하는 데 집중하였다.
• 다양한 시각에서의 통찰을 통합하여 향후 인간-AI 상호작용과 사회적 영향에 관한 연구를 이끌어내는 데 기여하였다.

실험 결과

연구 질문

• RQ1 기계 지능은 주의, 기억, 추론과 같은 인간의 인지 능력에 어떻게 영향을 미치는가?
• RQ2 일상적 맥락에서 장기간 AI 시스템과 상호작용할 경우 발생하는 심리적 및 행동적 결과는 무엇인가?
• RQ3 AI 시스템의 의사결정 및 사회적 행동에 미치는 사회적 영향을 어떻게 평가할 수 있는가?
• RQ4 책임감 있는 AI 개발 및 배포를 보장하기 위해 필요한 규제 및 윤리적 프레임워크는 무엇인가?
• RQ5 AI의 장기적 행동적 영향을 연구하는 데 가장 효과적인 다학제적 연구 전략은 무엇인가?

주요 결과

• 워크숍에서는 인간 행동에 미치는 AI의 영향을 인지, 사회적, 윤리적 차원에서 이해하기 위해 다학제적 연구의 필수성이 강조되었다.
• AI 시스템의 행동적 영향에 대한 표준화된 평가 방법 개발의 필요성에 대해 점점 더 많은 공감대가 형성되고 있다.
• 전문가들은 주의 조작, 비판적 사고 능력 저하, 의사결정 과정에서의 알고리즘 편향과 관련된 위험을 지적하였다.
• 투명성과 책임성을 확보하기 위해 규제 및 윤리적 감시 메커니즘이 필수적임이 규명되었다.
• 책임감 있는 AI 시스템을 설계하기 위해서는 심리학, AI, 인간-컴퓨터 상호작용 분야의 통찰을 통합하는 것이 핵심이다.
• 협업, 평가 프레임워크, 정책 관련 연구를 중시하는 향후 연구의 방향도 확립되었다.