[论文解读] Ethical Considerations in Artificial Intelligence Courses

Emanuelle Burton, Judy Goldsmith+4 more|arXiv (Cornell University)|Jan 26, 2017

Ethics and Social Impacts of AI参考文献 26被引用 8

一句话总结

本文为人工智能教育工作者提供了实用的框架、案例研究和教学资源，以将伦理教育融入人工智能课程。文章主张通过科幻作品和现实中的伦理困境来教授人工智能设计中的道德推理，为独立的伦理课程以及核心人工智能课程中的整合模块提供结构化方法。

ABSTRACT

The recent surge in interest in ethics in artificial intelligence may leave many educators wondering how to address moral, ethical, and philosophical issues in their AI courses. As instructors we want to develop curriculum that not only prepares students to be artificial intelligence practitioners, but also to understand the moral, ethical, and philosophical impacts that artificial intelligence will have on society. In this article we provide practical case studies and links to resources for use by AI educators. We also provide concrete suggestions on how to integrate AI ethics into a general artificial intelligence course and how to teach a stand-alone artificial intelligence ethics course.

研究动机与目标

• 应对人工智能快速发展的背景下，人工智能教育中日益增长的伦理素养需求。
• 为教育工作者提供切实可行的策略，以在独立单元和核心人工智能课程中融入伦理推理教学。
• 通过真实案例研究和科幻作品作为教学工具，弥合理论伦理与实际人工智能开发之间的鸿沟。
• 使未来的AI从业者能够预见、分析并回应人工智能系统在社会、道德和哲学层面的影响。
• 通过在人工智能教育的基础阶段即嵌入伦理探究，培养长期责任意识。

提出的方法

• 开发并呈现三个详细案例研究：一个基于大数据中的AI偏见，一个关于自动驾驶汽车的决策困境，一个关于《机械姬》和《机器人与弗兰克》等科幻电影。
• 将主要伦理理论（如功利主义、美德伦理和义务论）融入对人工智能设计选择和案例研究的分析中。
• 利用科幻作品作为叙事框架，探讨涉及自主代理和人工意识的假设性但伦理丰富的场景。
• 提供结构化的教学资源，包括示例课程材料、教科书节选以及现有开放获取的人工智能与机器人伦理教育资源链接。
• 借鉴现有的学术与专业资源，如AAAI和IJCAI的人工智能伦理研讨会，以及Russell和Norvig的《人工智能》（第3版）等教科书，以提供基础内容。
• 提出一种教学模型，将伦理理论与应用问题解决相结合，使学生能够通过伦理推理评估人工智能系统设计中的权衡。

实验结果

研究问题

• RQ1 教育工作者如何在不彻底重构核心课程的前提下，有效将伦理推理融入标准人工智能课程？
• RQ2 科幻电影在帮助学生理解并讨论人工智能开发中的复杂伦理困境方面发挥什么作用？
• RQ3 如何利用现实世界案例（如大数据中的算法偏见）来教授人工智能系统中的伦理决策？
• RQ4 在分析人工智能行为和设计选择时，哪些伦理框架（如功利主义、美德伦理）最为有效？
• RQ5 哪些教学资源和课程结构最能有效促进人工智能从业者长期的伦理责任感？

主要发现

• 使用《机械姬》和《机器人与弗兰克》等科幻电影能显著提升学生对人工智能中抽象伦理问题的参与度和理解力。
• 基于现实世界AI失败案例的案例研究（如贷款审批中的偏见决策）能有效说明不道德AI设计的社会影响。
• 通过将伦理理论整合到现有课程模块中，伦理推理可以系统性地与技术性AI主题同步教授。
• 独立的人工智能伦理课程（如肯塔基大学开发的课程）已被证明在提升学生保留率和批判性思维方面非常受欢迎且有效。
• 现有的教育资源，包括开放获取的课程网站和机器人伦理教科书，为构建新的AI伦理课程提供了坚实基础。
• 将伦理融入人工智能教育不仅是补充性的，更是必不可少的，对于培养能够应对复杂社会风险的责任型AI从业者至关重要。