[論文レビュー] Ethical Considerations in Artificial Intelligence Courses

Emanuelle Burton, Judy Goldsmith+4 more|arXiv (Cornell University)|Jan 26, 2017

Ethics and Social Impacts of AI参考文献 26被引用数 8

ひとこと要約

本論文は、AI教育者に実用的なフレームワーク、事例研究、教育リソースを提供し、AIのカリキュラムに倫理を統合する方法を提示する。AIデザインにおける道徳的思考を教えるために、SFと現実の倫理的ジレンマを活用することを提唱しており、単独の倫理教育課程や、コアAI教育課程に統合されたモジュールの両方に対して構造的な手法を提供する。

ABSTRACT

The recent surge in interest in ethics in artificial intelligence may leave many educators wondering how to address moral, ethical, and philosophical issues in their AI courses. As instructors we want to develop curriculum that not only prepares students to be artificial intelligence practitioners, but also to understand the moral, ethical, and philosophical impacts that artificial intelligence will have on society. In this article we provide practical case studies and links to resources for use by AI educators. We also provide concrete suggestions on how to integrate AI ethics into a general artificial intelligence course and how to teach a stand-alone artificial intelligence ethics course.

研究の動機と目的

• 急速な人工知能の進歩に伴い、AI教育における倫理的リテラシーの必要性が高まっていることを踏まえ、これを解決すること。
• 教育者に、単独のユニットとしての倫理教育から、コアAIカリキュラムに統合されたモジュールまで、実行可能な戦略を提供すること。
• 現実の事例研究とSFを教育的ツールとして用いることで、理論的倫理と実際のAI開発の間のギャップを埋めること。
• 将来のAI実務家が、AIシステムの社会的・道徳的・哲学的影響を予測し、分析し、対応できる能力を身につけさせること。
• AI教育の基礎段階から倫理的問いを組み込むことで、AI設計における長期的責任感を育成すること。

提案手法

• AIバイアスに関するビッグデータの事例、自律走行車の意思決定ジレンマ、SF映画（*Ex Machina* や *Robot & Frank*）に基づいた3つの詳細な事例研究を開発・提示する。
• 結果的利己主義、徳目倫理、義務論などの主要な倫理理論を、AIデザイン選択や事例研究の分析に統合する。
• 自律エージェントや人工的意識を含む仮説的だが倫理的に豊かな状況を検討するため、SFを物語的フレームワークとして活用する。
• サンプル授業資料、教科書の抜粋、AIおよびロボット倫理に関する既存のオープンアクセス教育コンテンツへのリンクを含む、構造的な教育リソースを提供する。
• AAAI や IJCAI のAI倫理ワークショップ、RussellとNorvigの『AI（第3版）』などの既存の学術的・専門的リソースを活用し、基礎的内容を提供する。
• 倫理理論と応用的問題解決を組み合わせた教育的モデルを提唱し、学生が倫理的思考を通じてAIシステム設計におけるトレードオフを評価できるようにする。

実験結果

リサーチクエスチョン

• RQ1 教育者が、コアカリキュラムを大幅に見直さずに、標準的な人工知能課程に倫理的思考を効果的に統合する方法は何か？
• RQ2 SF映画は、AI開発における複雑な倫理的ジレンマを理解し、議論するのを学生がどのように支援できるか？
• RQ3 ビッグデータにおけるアルゴリズム的バイアスのような現実の事例は、AIシステムにおける倫理的意思決定を教えるためにどのように活用できるか？
• RQ4 AI行動や設計選択を分析する際に最も効果的な倫理的枠組み（例：結果的利己主義、徳目倫理）は何か？
• RQ5 AI実務家に長期的な倫理的責任感を育むために、最も効果的な教育リソースとコース構造は何か？

主な発見

• *Ex Machina* や *Robot & Frank* などのSF映画を活用することで、学生の関与度とAIにおける抽象的な倫理的問題の理解が顕著に向上することが分かった。
• ローン承認におけるバイアスの意思決定失敗のような、現実のAI失敗に基づく事例研究は、非倫理的AI設計の社会的影響を効果的に説明する。
• 倫理理論を既存の授業モジュールに統合することで、技術的AIトピックと併せて倫理的思考を体系的に教えることができる。
• ケンタッキー大学で開発された単独のAI倫理コースは、学生の定着率と批判的思考の向上に効果的で、人気が高いことが実証された。
• オープンアクセスのコースWebサイトやロボット倫理に関する教科書などの既存教育リソースは、新しいAI倫理カリキュラムを構築する強固な基盤を提供している。
• 倫理をAI教育に統合することは、単なる追加的要素ではなく、複雑な社会的リスクに立ち向かえる責任あるAI実務家を育成する上で不可欠である。