[논문 리뷰] A Transparency Index Framework for AI in Education

Muhammad Ali Chaudhry, Mutlu Cukurova외 1명|arXiv (Cornell University)|2022. 05. 09.

Adversarial Robustness in Machine Learning인용 수 7

한 줄 요약

이 논문은 교육 분야의 인공지능을 위한 투명성 지수 프레임워크를 제안하며, 교사, 에드테크 전문가, 인공지능 전문가들과 공동으로 개발하였다. 이 프레임워크는 데이터 수집부터 배포에 이르는 인공지능 생명주기 전반에 걸쳐 투명성 요구사항을 맵핑하며, 투명성이 해석 가능성, 책임성, 안전성과 같은 다른 윤리적 차원을 뒷받침한다는 것을 보여주며, 교육적 맥락에서 윤리적인 인공지능 개발을 위한 기초 도구를 제공한다.

ABSTRACT

Numerous AI ethics checklists and frameworks have been proposed focusing on different dimensions of ethical AI such as fairness, explainability, and safety. Yet, no such work has been done on developing transparent AI systems for real-world educational scenarios. This paper presents a Transparency Index framework that has been iteratively co-designed with different stakeholders of AI in education, including educators, ed-tech experts, and AI practitioners. We map the requirements of transparency for different categories of stakeholders of AI in education and demonstrate that transparency considerations are embedded in the entire AI development process from the data collection stage until the AI system is deployed in the real world and iteratively improved. We also demonstrate how transparency enables the implementation of other ethical AI dimensions in Education like interpretability, accountability, and safety. In conclusion, we discuss the directions for future research in this newly emerging field. The main contribution of this study is that it highlights the importance of transparency in developing AI-powered educational technologies and proposes an index framework for its conceptualization for AI in education.

연구 동기 및 목표

• 정의된 윤리 체크리스트가 공정성, 설명 가능성, 안전성에 대해 존재하고 있음에도 불구하고, 교육 분야의 인공지능에서 투명성 중심의 프레임워크가 부족한 문제를 해결하기 위해.
• 실제 적용 가능성을 확보하기 위해 교사, 인공지능 전문가, 에드테크 전문가 등 다양한 이해관계자들과 공동으로 투명성 프레임워크를 설계하기 위해.
• 데이터 수집부터 배포 및 반복적 개선에 이르기까지 인공지능 개발 생명주기 전반에 걸쳐 투명성 고려사항을 통합하기 위해.
• 투명성이 교육 분야의 인공지능 시스템에서 해석 가능성, 책임성, 안전성과 같은 다른 윤리적 인공지능 차원을 어떻게 지원하는지 보여주기 위해.

제안 방법

• 교사, 에드테크 전문가, 인공지능 전문가들과의 협업 워크숍과 피드백 세션을 통해 반복적으로 공동 설계된 프레임워크.
• 인공지능 생명주기 단계(데이터 수집, 모델 개발, 배포, 지속적 개선) 전반에 걸쳐 이해관계자별 투명성 요구사항을 식별하고 맵핑함.
• 투명성이 다른 윤리적 인공지능 차원을 가능하게 하고 지원하는 기초 원칙으로 통합된 투명성 지수.
• 측정 가능한 구성 요소를 포함한 다차원 지수로서, 인공지능 시스템의 투명성에 대한 체계적 평가를 가능하게 함.
• 교사, 학생, 개발자 등의 이해관계자 역할을 활용하여 인공지능 시스템 개발 및 활용 단계에서의 투명성 필요 조건을 정의함.
• 이론적 윤리에서 벗어나 실제 교육 상황에 기반하여 실용적 적용 가능성을 확보함.

실험 결과

연구 질문

• RQ1 어떻게 교육적 맥락에서 인공지능 시스템의 전 생애주기에 걸쳐 투명성이 체계적으로 통합될 수 있는가?
• RQ2 교사, 학생, 개발자와 같은 교육 분야의 인공지능에서 다양한 이해관계자들에게는 어떤 차별화된 투명성 요구사항이 존재하는가?
• RQ3 투명성이 교육 분야의 인공지능에서 해석 가능성, 책임성, 안전성과 같은 다른 윤리적 인공지능 차원을 어떻게 지원하거나 가능하게 하는가?
• RQ4 실제 교육 분야의 인공지능 개발에서 투명성이 측정 가능하고 실행 가능한 프레임워크로 어떻게 구현될 수 있는가?
• RQ5 이해관계자 공동 설계가 교육 분야의 인공지능에서 투명성 프레임워크의 관련성과 효과성을 어떻게 향상시킬 수 있는가?

주요 결과

• 투명성 지수 프레임워크는 교육 분야의 인공지능 개발 및 배포 전 단계에서 이해관계자별 투명성 필요 조건을 성공적으로 맵핑하였다.
• 투명성은 일회성 기능이 아니라, 데이터 수집부터 배포 후 반복적 개선에 이르기까지 지속적인 요구사항으로 통합되어야 한다.
• 투명성은 인공지능 프로세스를 가시화하고 추적 가능하게 하여, 해석 가능성과 책임성과 같은 다른 윤리적 인공지능 차원의 구현을 가능하게 한다.
• 교사, 인공지능 전문가, 에드테크 전문가들과의 공동 설계로 프레임워크의 실용적 관련성과 실제 교육 맥락에서의 사용 가능성이 향상되었다.
• 연구는 향후 모든 다른 인공지능 윤리 고려사항을 뒷받침해야 할 기초 윤리 원칙으로서의 투명성을 확립하였다.
• 프레임워크는 인공지능 기반 교육 기술에서의 투명성 평가 및 향상에 개념적이고 실용적인 도구를 제공한다.