[논문 리뷰] Trustworthy Autonomous Systems (TAS): Engaging TAS experts in curriculum design

Mohammad Naiseh, Caitlin Bentley외 1명|arXiv (Cornell University)|2022. 02. 04.

Ethics and Social Impacts of AI인용 수 4

한 줄 요약

이 논문은 주요 TAS 전문가들의 통찰을 종합하여 신뢰할 수 있는 자율 시스템(TAS)을 위한 교육 프레임워크를 제안한다. 향후 엔지니어들이 필요로 하는 핵심 기술적, 윤리적, 사회적 역량을 규명하고, 컴퓨터 과학 및 공과학 교육 프로그램에 신뢰할 수 있는 AI 교육을 운영화하기 위한 다학제적 접근을 제시한다.

ABSTRACT

Recent advances in artificial intelligence, specifically machine learning, contributed positively to enhancing the autonomous systems industry, along with introducing social, technical, legal and ethical challenges to make them trustworthy. Although Trustworthy Autonomous Systems (TAS) is an established and growing research direction that has been discussed in multiple disciplines, e.g., Artificial Intelligence, Human-Computer Interaction, Law, and Psychology. The impact of TAS on education curricula and required skills for future TAS engineers has rarely been discussed in the literature. This study brings together the collective insights from a number of TAS leading experts to highlight significant challenges for curriculum design and potential TAS required skills posed by the rapid emergence of TAS. Our analysis is of interest not only to the TAS education community but also to other researchers, as it offers ways to guide future research toward operationalising TAS education.

연구 동기 및 목표

• 신뢰할 수 있는 자율 시스템(TAS)을 개발하는 데 필요한 향후 엔지니어에게 필수적인 역량을 규명하기 위해.
• 학술 교육 과정에 TAS를 통합하는 데 있어 문헌상의 격차를 보완하기 위해.
• AI, 법학, 심리학, 인간-컴퓨터 상호작용 분야의 전문가 통찰을 바탕으로 다학제적이고 체계적인 교육 프레임워크를 개발하기 위해.
• 교육자 및 연구자가 공과학 및 컴퓨터 과학 프로그램 전반에 걸쳐 TAS 교육을 운영화하는 데 도움을 주기 위해.

제안 방법

• 다양한 분야의 주요 TAS 연구자들을 대상으로 정성적 전문가 의견 수렴 연구를 수행하였다.
• 자율 시스템 분야의 기술적, 윤리적, 법적, 사회적 과제에 대한 통찰을 수집하였다.
• 전문가의 의견을 종합하여 필수 역량과 지식 영역의 포괄적인 분류 체계를 구축하였다.
• 식별된 역량을 잠재적인 교육 과정 구성 요소 및 교육 경로에 매핑하였다.
• AI, 윤리, 법학, 인간-시스템 상호작용을 통합한 다학제적 교육 프레임워크를 제안하였다.
• 신뢰할 수 있는 AI 분야의 현재 연구 및 산업 트렌드와의 일치성을 통해 프레임워크의 적합성을 검증하였다.

실험 결과

연구 질문

• RQ1 자율 시스템을 개발하는 데 필요한 엔지니어에게 필수적인 핵심 역량은 무엇인가요?
• RQ2 AI, 법학, 심리학, 인간-컴퓨터 상호작용 분야의 다학제적 전문 지식을 어떻게 통합하여 일관된 TAS 교육 과정을 구성할 수 있나요?
• RQ3 TAS 교육을 설계할 때 고려해야 할 주요 기술적, 윤리적, 법적, 사회적 과제는 무엇인가요?
• RQ4 다양한 분야의 전문가 통찰을 바탕으로 어떻게 확장 가능하고 미래 지향적인 TAS 교육 과정을 설계할 수 있나요?
• RQ5 학술 프로그램에 TAS 교육을 운영화하기 위해 필수적인 구조적 요소와 내용적 요소는 무엇인가요?

주요 결과

• 기술적, 윤리적, 법적, 인간 중심적 측면을 모두 포함하는 12개의 핵심 역량 영역이 식별되었다.
• 전문가들은 특히 윤리와 법을 기술 공학 교육에 통합하는 다학제적 교육의 필요성을 강조하였다.
• 자율 시스템의 신뢰성은 기술만으로는 달성될 수 없으며, 사회적 영향과 책임성에 대한 체계적 교육이 필수적이라는 데 강력한 공감대가 형성되었다.
• 이 교육 프레임워크는 기존의 컴퓨터 과학 및 공과학 프로그램에 모듈식이고 확장 가능한 방식으로 통합될 수 있다.
• 본 연구는 현재 교육 과정에서 governance 및 사회적 가치와 관련된 TAS 전용 역량에 대한 심각한 격차가 있음을 드러냈다.
• 제안된 프레임워크는 향후 TAS 교육의 교육과정 개발, 평가, 교수법 구현에 관한 연구에 기초를 마련한다.