[论文解读] A Transparency Index Framework for AI in Education

Muhammad Ali Chaudhry, Mutlu Cukurova+1 more|arXiv (Cornell University)|May 9, 2022

Adversarial Robustness in Machine Learning被引用 7

一句话总结

本文提出了一种教育领域人工智能的透明度指数框架，该框架由教育工作者、教育科技专家和人工智能从业者共同设计。该框架映射了从数据收集到部署的整个人工智能生命周期中的透明度需求，并展示了透明度如何支撑可解释性、问责制和安全性等其他伦理维度，为教育场景中伦理人工智能的发展提供了基础性工具。

ABSTRACT

Numerous AI ethics checklists and frameworks have been proposed focusing on different dimensions of ethical AI such as fairness, explainability, and safety. Yet, no such work has been done on developing transparent AI systems for real-world educational scenarios. This paper presents a Transparency Index framework that has been iteratively co-designed with different stakeholders of AI in education, including educators, ed-tech experts, and AI practitioners. We map the requirements of transparency for different categories of stakeholders of AI in education and demonstrate that transparency considerations are embedded in the entire AI development process from the data collection stage until the AI system is deployed in the real world and iteratively improved. We also demonstrate how transparency enables the implementation of other ethical AI dimensions in Education like interpretability, accountability, and safety. In conclusion, we discuss the directions for future research in this newly emerging field. The main contribution of this study is that it highlights the importance of transparency in developing AI-powered educational technologies and proposes an index framework for its conceptualization for AI in education.

研究动机与目标

• 为解决教育领域人工智能中缺乏以透明度为核心的框架的问题，尽管已有针对公平性、可解释性和安全性的伦理检查清单。
• 与包括教育工作者、人工智能从业者和教育科技专家在内的多元利益相关方共同设计透明度框架，以确保其在现实场景中的相关性。
• 将透明度考量贯穿整个人工智能开发生命周期，从数据收集到部署及持续改进。
• 展示透明度如何促成或支持教育人工智能系统中可解释性、问责制和安全性等其他伦理维度。

提出的方法

• 通过与教育工作者、教育科技专家和人工智能从业者共同参与的协作工作坊和反馈会议，迭代式地共同设计该框架。
• 识别并映射了不同利益相关方的透明度需求，覆盖人工智能生命周期的各个阶段：数据收集、模型开发、部署和持续改进。
• 透明度指数将透明度作为一项基础性原则，以促进和支持其他伦理人工智能维度。
• 该框架被结构化为一个多维指数，包含可衡量的组成部分，从而实现对人工智能系统中透明度的系统性评估。
• 采用利益相关方角色（如教师、学生、开发者）来定义人工智能系统开发和使用各阶段的透明度需求。
• 该方法基于真实教育场景，确保其在理论伦理之外的实际适用性。

实验结果

研究问题

• RQ1 如何系统性地将透明度整合到教育环境中人工智能系统的整个生命周期中？
• RQ2 在教育人工智能中，不同利益相关方（如教师、学生和开发者）的透明度需求有何不同？
• RQ3 透明度如何支持或促成教育人工智能中可解释性、问责制和安全性等其他伦理维度？
• RQ4 透明度在现实教育人工智能开发中，如何被操作化为可衡量且可执行的框架？
• RQ5 利益相关方的共同设计在提升教育人工智能透明度框架的相关性和有效性方面发挥何种作用？

主要发现

• 透明度指数框架成功地映射了教育领域人工智能开发与部署全周期中各利益相关方的特定透明度需求。
• 透明度并非一次性功能，而是一个从数据收集到部署后迭代的持续性要求。
• 该框架通过使人工智能流程可见且可追溯，使其他伦理人工智能维度（如可解释性和问责制）的实现成为可能。
• 与教育工作者、人工智能从业者和教育科技专家的共同设计，显著提升了该框架在真实教育场景中的实际相关性和可用性。
• 本研究确立了透明度作为一项基础性伦理原则，必须作为教育领域所有其他人工智能伦理考量的基石。
• 该框架为评估和提升人工智能教育技术中透明度提供了概念性与操作性工具。